一、前言
FFM在FM的基础上进一步改进,在模型中引入类别的概念,即field。将同一个field的特征单独进行one-hot,因此在FFM中,每一维特征都会针对其他特征的每个field,分别学习一个隐变量,该隐变量不仅与特征相关,也与field相关。通过引入field的概念,FFM把相同性质的特征归于同一个field。
二、FFM模型
在说FFM之前,最好先了解下FM模型
Factorization Machines(FM):发展过程、原理及实现_只想做个咸鱼的博客-优快云博客
文章中提到FM的公式:

红色两项,分别代表用隐向量内积表示权重系数矩阵,特征的交叉组合
FM存在的问题就是模型在进行特征表示时,是与所有的特征进行组合,即它对所有的特征组合时所用的表示都是一样的,至少也得权衡各个类别里面的交互特征学到,意味着不同的特征应该所表示的不同,例如男和北京、男和篮球,而男与另外两个特征组合时所用的表示是一样,这体现不出他们的不同和重要性
引出FFM的数学表达式:

可以看

本文介绍了Factorization Machines (FM)的改进版FFM,强调了引入field概念的重要性,以及如何通过域表示增强特征区分。FFM通过多个隐向量针对不同field表示特征,尽管计算复杂度上升至O(kn^2),但模型精度得到提升。
最低0.47元/天 解锁文章
2735

被折叠的 条评论
为什么被折叠?



