Field-aware Factorization Machines for CTR Prediction

• 原始论文：Field-aware Factorization Machines for CTR Prediction
• 代码示例：ffm.py

理论解读

• 计算公式: $y=\sigma{(\sum_{i=0}^n{w_ix_i}+{\sum_{i=1}^{n-1}\sum_{i+1}^n { \langle v_{i,f_j},v_{j,f_i} \rangle} {x_ix_j}})}$
• 解说：<$v_{i,f_j},v_{j,f_i}$>$是x_i,x_j 对应的第j个field特征向量$，
• <*,*>是向量内积。

具体实现

整体部分

• FM 是由2部分来实现的，线性部分和交叉项部分。而且其所有的输入均为类别性特征，不存在连续值特征。所以整体实现如下：

线性部分

• 线性部分：该部分的实现与FM的线性部分相同，故不做赘述。

交叉项部分

• 交叉项部分：该部分是对交叉项的实现，由于是Field维度的向量交互，所以在实现上使用了多个Embedding层。求内积部分：由于不能简化，只能使用最O(n^2)的复杂度实现