本文介绍CTR预测中两种常用的ID特征向量化方法：fm（Factorization Machines）及ffm（Field-aware Factorization Machines）。fm能有效处理稀疏数据，并通过因子分解捕捉特征间的交互作用；ffm则进一步增强模型的表达能力，为每个特征交叉定义独立的因子向量，提高预测精度。
在CTR中对ID特征vector化，然后求解最小loss一种常见的解决方案，如下收藏两个比较好用的方法，fm以及ffm。其中ffm在前两年的kaggle CTR相关比赛中，都能看到它的身影。
一、fm（Factorization Machines）
论文
http://www.csie.ntu.edu.tw/~b97053/paper/Rendle2010FM.pdf
代码
两度fm公式如下：
三种类型参数更新如下：
二、ffm（field-aware factorization machines）
比赛ppt
http://www.csie.ntu.edu.tw/~r01922136/kaggle-2014-criteo.pdf
开源代码
https://github.com/guestwalk/kaggle-2014-criteo
fm公式如下，针对任一一个样本中的ID特征，有其唯一的一个分解向量与之对应：
ffm的公式如下，任一一个样本中的领域A下的ID特征i，对每一个交叉的领域B下的ID特征有一个分解向量与之对应：
扫一扫
2663
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
