特征交叉03 LHUC (PPNet)

最新推荐文章于 2025-09-08 15:40:15 发布
原创 最新推荐文章于 2025-09-08 15:40:15 发布 · 1k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#算法

LHUC 只能用于精排。

多目标模型中的神经网络可以用全连接网络 、深度交叉网络 或者LHUC等。

语音识别中的LHUC

说话者的特征, 例如id 做embadding 。LHUC中出现的神经网络有多个全连接层，最后一个全连接层的激活函数是sigmoid *2，单独作用到每一个元素上，从而输出向量的元素都介于0-2之间。

这样的变化，会放大某些特征，缩小另一些特征，实现个性化。

两个输出向量的形状必须一致。

推荐系统排序模型中的LHUC

PPNET电子商务建设方案.docx
11-21
【PPNET电子商务建设方案】 PPNET电子商务建设方案主要聚焦于利用Oracle公司的技术和产品构建一个全面、安全且高效的电子商务平台，以适应21世纪的商业环境。Oracle电子商务解决方案旨在为中国生产力信息网及其关联...
快手ppnet模型
zhangwl27的专栏
08-24 1907
参考
特征交叉DCN与LHUC
别说话写代码的博客
05-02 2603
推荐算法特征交叉，DCN是一种特征交叉方法，从网络结构改变，召回双塔，粗排，精排都能用到。LHUC只能用于精排
推荐系统学习笔记（十六）LHUC（PPNet）
最新发布
weixin_44880995的博客
09-08 301
ppnet
【王树森推荐系统】特征交叉03：LHUC (PPNet)
hxdxiaoming的博客
07-12 572
这节课介绍 LHUC 这种神经网络结构，可以用于精排。LHUC 的起源是语音识别，后来被应用到推荐系统，快手将其称为 PPNet，现在已经在业界广泛落地。
LHUC 模型内部差异化
心之所向
08-08 1万+
对于一个混合多种数据源的训练模型，不同数据源肯定存在着差异性，如果将这种差异性反映到模型中。LHUC试图利用将这些差异性插入对模型的NN中，从而对NN进行调整。 Learning Hidden Unit Contributions for Unsupervised Acoustic Model Adaptation 超越Google 快手落地业界首个万亿参数推荐精排模型 ...
多任务建模之PPNet
热门推荐
weixin_38381682的博客
10-11 1万+
多任务ppnet网络结构
用于序列建模的SIM、个性化表征学习的PPNet、提供先验知识的内容嵌入以及多任务学习的PLE分别是什么
weixin_42738495的博客
07-15 557
同时，采用了PLE多任务学习框架，通过分层提取共享与特有特征，实现多目标任务的最优协同。在深度学习推荐系统中，引入内容嵌入可以将文本、图片等内容信息编码为向量表示，作为网络的先验知识（prior knowledge），丰富模型的输入，从而弥补仅依赖结构化特征的局限，进一步提升模型对冷启动等场景的泛化能力。本研究结合用于序列建模的SIM、用于个性化表征学习的PPNet、以内容嵌入方式引入先验知识，以及采用多任务学习框架的PLE，以全面提升模型对用户兴趣捕捉、个性化特征表达和多目标任务的联合建模能力。
推荐系统王树森（四）特征交叉+行为序列
nju_spy的博客
08-28 1869
本文介绍了推荐系统中特征交叉和行为序列建模的关键技术。特征交叉部分详解了5种方法：FM因式分解机通过矩阵分解减少参数量；DCN网络显式建模高阶特征交叉；LHUC实现用户特征加权；SENet自主学习重要特征通道；Bilinear交叉通过中间矩阵处理不同维度特征。行为序列部分探讨了DIN模型利用注意力机制动态加权用户历史行为，以及SIM模型通过TopK筛选解决长序列计算问题。这些技术有效提升了推荐系统对特征交互和用户兴趣的建模能力。
【推荐系统】wss课程-特征交叉
littlemichelle
08-07 1015
总结：工业界推荐的精排模型全都是pointwise
论文解读：点击率模型特征交叉CAN模型
ybjlucky的博客
02-23 3991
特征交叉算法CAN
PEPNet
Swift's Blog
02-28 1174
鉴于PEPNet已经是多场景、多任务建模的baseline，这里有必要详细讲解一下。more。
（9）工业界推荐系统-小红书推荐场景及内部实践【排序模型】
Pain is inevitable but suffering is optional.
07-11 1225
（1）工业界推荐系统-小红书推荐场景及内部实践【业务指标、链路、ItemCF】 （2）工业界推荐系统-小红书推荐场景及内部实践【UserCF、离线特征处理】 （3）工业界推荐系统-小红书推荐场景及内部实践【矩阵补充、双塔模型】 （4）工业界推荐系统-小红书推荐场景及内部实践【正负样本选择】 （5）工业界推荐系统-小红书推荐场景及内部实践【线上召回和模型更新】 （6）工业界推荐系统-小红书推荐场景及内部实践【其他召回通道】 （7）工业界推荐系统-小红书推荐场景及内部实践【冷启动问题1】 （8）工业界推荐系统-
PEPNet：融合个性化先验信息的多场景多任务网络
这个人很懒，没有写简介
01-05 4072
在多目标的建模过程中，如果不同的学习任务之间较为相关时，多个任务之间可以共享一部分的信息，这样最终能够提升整体的模型学习效果。但是如果多个任务之间的相关性并不强，或者说多个任务之间存在某种冲突，一个任务指标的提升可能伴随着另外一些任务指标的下降，造成多任务之间的跷跷板（task seesaw）。如果每个场景、每个任务都训练一个独立的模型，当场景、任务很多的时候成本太高，还影响迭代效率，同时也没有充分利用所有的数据，导致训练得到的模型实际上不是最优的。输入和输出的维度一致，用来衡量各个维度的重要性。
动态权重：推荐算法的新范式
Kaiyuan_sjtu的博客
04-28 5032
前言设计范式（Design Pattern）是各位码农都应该熟悉的概念。Design Pattern针对软件开发普遍存在的各种问题，提出可复用解决方案。同时，Design Pattern也为程序员之间的交流提供了共同语言。比如，我说我的程序采用了Template Method模式，其他程序员就能对我的程序结构猜个八九不离十。其实，在我们设计推荐算法模型的时候，也有很多设计...
人工智能|推荐系统——工业界的推荐系统之交叉
也许有一天我们再相逢 睁开眼睛看清楚 我才是英雄！
05-06 556
SENet 对离散特征做field-wise加权，如果有𝑚 个fields，那么权重向量是𝑚 维。FiBiNet可以理解为同时考虑了SENet 结合 Field 间特征交叉。之前提到过的召回、排序模型中的神经网络可以用任意网络结构；LHUC起源于语⾳识别，快⼿将LHUC应⽤在推荐精排，称作PPNet。深度交叉网络就是两个分支，一边是全连接，一边是交叉网络。线性模型预测是特征的加权和。交叉网络就是多个交叉层串起来的网络。可以通过矩阵分解减少模型参数量。Field 间特征交叉。
牛亚男：基于多Domain多任务学习框架和Transformer，搭建快精排模型
DataFun_Hoh的博客
06-18 805
导读： 本文主要介绍了快手的精排模型实践，包括快手的推荐系统，以及结合快手业务展开的各种模型实战和探索，全文围绕以下几大方面展开： 快手推荐系统 CTR模型——PPNet 多domain多任务学习框架 短期行为序列建模 长期行为序列建模 千亿特征，万亿参数模型 总结和展望 -- 01 快手推荐系统 快手的推荐系统类似于一个信息检索范式，只不过没有用户显示query。结构为数据漏斗，候选集有百亿量级的短视频，在召回层，会召回万级的视频给粗排打分，再选取数百个短视频，给精排模型打分，最后会有数十个短视频..
图像分割（四）：模型（PSPNet）
米之炼金术师的博客
04-22 1668
文章目录三、图像分割的模型7.PSPNet 三、图像分割的模型 7.PSPNet 原论文（CVPR 2017 v2） 这个模型最核心的贡献就是提出了全局金字塔池化模块：Pyramid Pooling Module（一个不同尺度的pooling模块），其能够融合不同尺度的上下文信息，提高获取全局特征信息的能力，增加了模型的表现力。 模型结构为： 模型的工作流程为： 输入图像 CNN提取特征（带...
Oracle电子商务解决方案：构建PPNET网上交易平台
"PPNET电子商务建设方案旨在利用Oracle公司的技术和经验，为中国生产力信息网和企业提供全面的电子商务解决方案，实现商务的信息化、网络化和电子化。该方案关注的关键业务目标包括建立基于Internet的电子商务平台、...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值