DMF

prior research

• NCF He, X., Liao, L., Zhang, H., Nie, L., Hu, X., & Chua, T. S. (2017, April). Neural collaborative filtering. In Proceedings of the 26th international conference on world wide web (pp. 173-182).

• 인덱스 임베딩(idx embedding)은 원 핫 행렬(one-hot matrix)을 선형 변환하여(linear transform) 사용자와 아이템의 임베딩 행렬을 학습함:

  \[\begin{aligned} \mathbf{p}_{u} &=\mathbf{W}\cdot\mathbf{X}_{u*}^{\mathrm{(user)}},\quad x_{u,v} =\begin{cases} 1,\quad i=j\\ 0,\quad i\ne j \end{cases}\\ \mathbf{q}_{i} &=\mathbf{W}\cdot\mathbf{X}_{i*}^{\mathrm{(item)}},\quad x_{i,j} =\begin{cases} 1,\quad i=j\\ 0,\quad i\ne j \end{cases} \end{aligned}\]

• 원 핫 행렬(one-hot matrix)보다는 사용자-아이템 상호작용 행렬(user-item interaction matrix)이 초기 정보로서 유효할 수 있음:

  \[\begin{aligned} \mathbf{p}_{u}=\mathbf{W}\cdot\mathbf{Y}_{u*},\quad \mathbf{Q}_{i}=\mathbf{W}\cdot\mathbf{Y}_{*i} \end{aligned}\]

• 아이템 $i$ 와 $j$ 를 동시에 구매하였거나 사용자 $u$ 와 $v$ 에게서 동시에 소비되었던 이력은 각각을 단독으로 취했다는 정보를 누적하는 것 이상의 추가 정보(synergy effect)를 제공할 수 있음:

  \[\begin{aligned} \mathbf{p}_{u}=\mathrm{mlp}\left(\mathbf{Y}_{u*}\right),\quad \mathbf{q}_{i}=\mathrm{mlp}\left(\mathbf{Y}_{*i}\right) \end{aligned}\]

idea

• DMF(Deep Matrix Factorization): 사용자-아이템 상호작용 행렬과 그 전치 행렬을 초기 정보로 사용하여 사용자와 아이템의 표현학습(Representation Learning)을 수행하는 모형

  

notation

• $u=1,2,\cdots,M$: user idx
• $i=1,2,\cdots,N$: item idx
• $\mathbf{X}^{\mathrm{(user)}} \in \mathbb{R}^{M \times M}$: user one-hot matrix
• $\mathbf{X}^{\mathrm{(item)}} \in \mathbb{R}^{N \times N}$: item one-hot matrix
• $\mathbf{Y} \in \mathbb{R}^{M \times N}$: user-item interaction matrix
• $\mathbf{u}_{u} \in \mathbb{R}^{K}$: user latent factor vector
• $\mathbf{v}_{i} \in \mathbb{R}^{K}$: item latent factor vector
• $\hat{y}_{u,i}$: interaction probability of user $u$ and item $i$

function

• user latent factor vector representation learning:

  \[\begin{aligned} \mathbf{u}_{u} &= \mathrm{mlp}_{\mathrm{ReLU}}(\mathbf{Y}_{u*}) \end{aligned}\]

• item latent factor vector representation learning:

  \[\begin{aligned} \mathbf{v}_{i} &= \mathrm{mlp}_{\mathrm{ReLU}}(\mathbf{Y}_{*i}) \end{aligned}\]

• predict interaction probability of user $u$ and item $i$:

  \[\begin{aligned} \hat{y}_{u,i} &=\cos(\mathbf{u}_{u}, \mathbf{v}_{i})\\ &=\frac{\mathbf{u}_{u} \cdot \mathbf{v}_{i}}{\Vert \mathbf{u}_{u} \Vert \cdot \Vert \mathbf{v}_{i} \Vert} \end{aligned}\]