本文详细介绍了FM（Factorization Machines）算法，包括它的简介、原理、SGD训练参数方法以及在Windows下安装pyFM的步骤。通过实例展示了如何使用FM进行分类任务，并在iris数据集上进行实验，得到了较好的效果。FM算法适用于处理高度稀疏数据，但计算内存需求较高，当特征维度较大时，可考虑使用FFM算法进行优化。
一.简介
FM是Steffen Rendle在2010年提出的，FM算法的核心在于特征组合，以此来减少人工参与特征组合工作。对于FM，其优势可分以下三点:
FM能处理数据高度稀疏场景，SVM则不能；
FM具有线性的计算复杂度，而SVM依赖于support vector。
FM能够在任意的实数特征向量中生效。
二.FM原理
FM的数据结构如下：
FM通过不同特征的组合，生成新的含义。然而，特征组合也随之带来一些问题：
特征之间两两组合容易导致维度灾难；
组合后的特征未必有效，可能存在特征冗余现象；
组合后特征样本非常稀疏，如果原始样本中不存在对应的组合，则无法学习参数，那么该组合就显得无效。
虽然有这些缺点，但是也并不影响FM在广告推荐领域的地位，每个算法都有风靡一时的过去，抱着敬畏之心的态度去学习是没问题的。下面，来看看FM的算法原理。
1.目标函数
我们知道，线性模型的目标函数为：
最低0.47元/天 解锁文章
扫一扫
5392
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
