在CTR（点击率）预测中，特征哈希用于处理高维的categorical feature，如user_id和advertisement_id，避免one-hot编码导致的维度爆炸问题。通过hash function将特征映射到低维空间，降低存储和计算成本。尽管存在hash冲突，但实验表明对模型精度影响较小。然而，这种方法牺牲了特征的解释性。例如，在职言点击率预估中，user_id和item_id通过哈希映射并分组处理，有效解决数据维度问题。
在CTR预估中，一种做法是采用人工来做feature engineering，将一些非线性的feature转换为线性的feature，然后喂给LR之类的线性model来做在线学习，在这个过程中，对于一些categorical feature，比如user_id，advertisement_id，直接做one-hot encoding（一般还会对feature做笛卡尔积）会导致维度爆炸，hashing trick通过对feature先做hash之后取模降低维度，缓减这一问题。
具体来说：假设原始特征向量 
，我们希望将他降为 
维( << 
)，定义一个hash function 
，一般为了保证内积的无偏，会再定义一个hash function
最低0.47元/天 解锁文章
扫一扫
1536
到【灌水乐园】发言
