参考文献
Wide & Deep Learning for Recommender Systems
前情提要
FM
FFM
DeepFM
Wide & Deep,直译为又深又宽,又名又长又宽,从名字里我们就隐约觉得它的背景不简单,是的,它竟是谷歌提出来的!不仅背景不简单,内涵也很不简单,具体如何,下面分解。
在介绍DeepFM的文章中(见最上方链接)已经说过,DeepFM结合了FM对低阶特征交叉的处理和DNN对高阶特征交叉的处理,一时风头无两,但这样的思想其实在Wide & Deep中就有了,Wide来处理低阶特征交叉,Deep来处理高阶特征交叉,这个Deep还就是DeepFM中的那个Deep,时下最受热捧的DNN是也!这么说来DeepFM就是把Wide & Deep中的Wide部分改成了FM喽?对!也不对!这句话怎么说,我们先来看Wide & Deep中Wide部分是什么。
都说Wide部分是对低阶特征交叉的处理,那么是怎么个处理法呢?谷歌默默扔出了个
Emm,这长得六亲不认的东西是什么?xi大家都明白了,这就代表一个特征,然后直接来个所有特征连乘?那还叫什么低阶特征交叉,所谓低阶,不是通常就指两个特征交叉么?FM中不就是这样的么?谷歌高冷地说,你没看到每个特征右上角都带了个cki么?那东西非0即1,也就是说如果它是0的话那对应的那个特征