在CTR预估中,一种做法是采用人工来做feature engineering,将一些非线性的feature转换为线性的feature,然后喂给LR之类的线性model来做在线学习,在这个过程中,对于一些categorical feature,比如user_id,advertisement_id,直接做one-hot encoding(一般还会对feature做笛卡尔积)会导致维度爆炸,hashing trick通过对feature先做hash之后取模降低维度,缓减这一问题。
具体来说:假设原始特征向量 ,我们希望将他降为
维(
<<
),定义一个hash function
,一般为了保证内积的无偏,会再定义一个hash function