CTR中的特征哈希

在CTR(点击率)预测中,特征哈希用于处理高维的categorical feature,如user_id和advertisement_id,避免one-hot编码导致的维度爆炸问题。通过hash function将特征映射到低维空间,降低存储和计算成本。尽管存在hash冲突,但实验表明对模型精度影响较小。然而,这种方法牺牲了特征的解释性。例如,在职言点击率预估中,user_id和item_id通过哈希映射并分组处理,有效解决数据维度问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

在CTR预估中,一种做法是采用人工来做feature engineering,将一些非线性的feature转换为线性的feature,然后喂给LR之类的线性model来做在线学习,在这个过程中,对于一些categorical feature,比如user_id,advertisement_id,直接做one-hot encoding(一般还会对feature做笛卡尔积)会导致维度爆炸,hashing trick通过对feature先做hash之后取模降低维度,缓减这一问题。

具体来说:假设原始特征向量 x\in R^{N},我们希望将他降为 M维( M<< N),定义一个hash function h:N\rightarrow \left \{ 1,...,m \right \},一般为了保证内积的无偏,会再定义一个hash function 

评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值