论文精读-DeepFM

最新推荐文章于 2024-02-14 13:22:23 发布
最新推荐文章于 2024-02-14 13:22:23 发布
阅读量482 收藏
点赞数 1
分类专栏： 机器学习
【图像超分/扩散模型】论文精读：Exploiting Diffusion Prior for Real-World Image Super-Resolution（StableSR）
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
03-26 9034
我们提出了一种新的方法来利用封装在预先训练的文本到图像扩散模型中的先验知识进行盲超分辨率(SR)。具体来说，通过使用我们的时间感知编码器，我们可以在不改变预训练的合成模型的情况下实现有希望的恢复结果，从而保留生成先验并最小化训练成本。为了解决扩散模型固有随机性造成的保真度损失，我们采用了一个可控的特征包装模块，该模块允许用户在推理过程中简单地调整标量值来平衡质量和保真度。此外，我们开发了一种渐进聚合采样策略来克服预训练扩散模型的固定大小约束，从而能够适应任何大小的分辨率。
【图像去噪】论文精读：Blind2Unblind: Self-Supervised Image Denoising with Visible Blind Spots（B2U）
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
01-08 251
论文题目：Blind2Unblind: Self-Supervised Image Denoising with Visible Blind Spots —— Blind2Unblind：具有可见盲点的自监督图像去噪CVPR 2022！大规模的真实噪声干净对成本高昂且难以获得。同时，在合成数据上训练的监督降噪器在实践中表现不佳。仅从单个噪声图像中学习的自监督去噪器解决了数据收集问题。然而，自监督去噪方法，尤其是盲点驱动方法，在输入或网络设计过程中遭受相当大的信息丢失。
DeepFM 论文翻译
12-30
DeepFM的详细翻译机及其介绍，是CTR预估的最新paper，离线评估效果很好
DeepFM论文笔记
laolu1573的专栏
11-12 416
DeepFM论文笔记 Introduction FM(Factorization Machines) 将成对特征间的交叉建模为特征之间潜在向量的内积。 Embedding layer embedding 层的输出表示为： a=[e1,e2,...em]a =[e_1,e_2,...e_m]a=[e1​,e2​,...em​] m是field的数量，eie_iei​是第i个field的embe...
【Python】全网最新最全Pyecharts可视化教程(一)
fengdu78的博客
08-02 3044
数据可视化能够更加直观的将数据的趋势展现出来，而绝大数人对于数据可视化的选择要么是matplotlib或者是seaborn，本文将从比较热门的可视化模块pyecharts入手，向读者介绍...
一、论文解读（推荐系统）：DeepFM
Wisley的读书笔记分享
12-16 775
dEEPFM 论文阅读                   学习复杂的功能交互背后的用户行为是至关重要的对于最大化CTR推荐系统。现存的模型对于低阶或高阶的特征交互有很强的依赖，需要专家做大量的特征工程。在这篇文章中，我们表示同时注重低阶核高阶的特征交互的端到端的学习模型是可能的。DeepFM结合了因子分解机的推荐能力以及深度学习的特征学习能力，形成了一种新的神经网络结构，比较谷...
DeepFM论文翻译
weixin_44852067的博客
04-14 1361
为了最大化推荐系统的CTR，学习用户行为的复杂交叉特征很关键。尽管有很大进步，现有的方法无论对低阶还是高阶的交叉特征，似乎还是有很强的bias, 或者需要专门的特征工程。本文，我们证明了得出一个能强化高阶和低阶交叉特征的端到端模型是可能的。本文提出的DeepFM模型，结合了推荐系统的FM和深度神经网络中的特征学习能力，相比于Google的Wide&Deep模型，DeepFM共享wide和deep部分的输入，而且只需要原始特征，不需要特征工程。实验部分展示了DeepFM的效果和性能。
深度推荐模型 - DeepFM
Joye_BNU的博客
03-20 837
DeepFM 文章目录DeepFM之前的模型的缺点和局限线性模型的局限性多项式模型的问题DNN的局限性FM（因子分解机）FFMFNN & PNNWide & DeepDeepFM 的结构和原理FM LayerDeepDeep FM模型的优点思考题如果对于FM采用随机梯度下降SGD训练模型参数，请写出模型各个参数的梯度和FM参数训练的复杂度。对于下图所示，根据你的理解Sparse Feature中的不同颜色节点分别表示什么意思SVM与FM的区别 参考： 论文原文 FM、FFM、DeepFM学习
【论文精读】DINO
weixin_44934783的博客
02-14 1447
DINO
deepfm算法论文翻译（五）
yifu0121
09-19 1464
DeepFM：基于因式分解机的CTR预测神经网络 摘要 学习复杂的用户行为特征的交互特点，对于推荐系统最大化点击率至关重要。 尽管取得了很大进展，但现有方法似乎在低阶或高阶交互中，有很强的偏见，或需要专业知识特征工程。 在本文中，我们展示可以推导出强调低阶和高阶特征交互的端到端学习模型。 准备提出的模型，DeepFM结合了分解机的功能，用于推荐和深度学习在新的神经网络架构中进行特征学习。 与最新...
CTR预估经典论文详解（二）——DeepFM模型
weixin_54096215的博客
08-31 429
论文链接： https://www.researchgate.net/profile/Huifeng-Guo/publication/314943217_DeepFM_A_Factorization-Machine_based_Neural_Network_for_CTR_Prediction/links/5983f288458515b420c96efb/DeepFM-A-Factorization-Machine-based-Neural-Network-for-CTR-Prediction.pdf
deepFM论文学习
骆驼分析师的博客
06-02 570
前言：deepFM结构比较清晰，更多信息可以参考最后github的代码。 核心思想：在dl基础上增加了FM特征（结构非常类似wdl）。FM（linear+二介组合特征） 细节： 1、每个特征都是一个field 映射成embedding向量 2、FM模型与deep part共享feature embedding 3、不需要预训练FM得到隐向量 4、论文给出的FM简化公式方便计算...
DeepFM推荐系统 论文+代码
枫色的专栏
10-28 975
Paper-DeepFM Introduction 现存方法的侧重点 low- / high- order interactions 低阶/高阶交互 expertise feature engineering 专业特征工程 关键挑战 in effectively modeling feature interactions 有效建模特征交互 FM中 使...
论文阅读 - DeepFM
weixin_30539835的博客
09-17 311
今天看了出自 IJCAI 2017 的论文 DeepFM: A Factorization-Machine based Neural Network for CTR Prediction，思想并不复杂，现将笔记大致记录于此。 背景 CRT (click-through rate) 预测，是指预测用户对某个物品（广告）的点击率，以便于推送用户最有可能点击的物品。广告平台（比如微信）当然希望...
DeepFM论文详解
cuicuicuicuicuih的博客
04-10 393
目前的CTR预估模型，实质上都是在“利用模型”进行特征工程上狠下功夫。传统的LR，简单易解释，但特征之间信息的挖掘需要大量的人工特征工程来完成。由于深度学习的出现，利用神经网络本身对于隐含特征关系的挖掘能力，成为了一个可行的方式。DNN本身主要是针对于高阶的隐含特征，而像FNN（利用FM做预训练实现embedding，再通过DNN进行训练，有时间会写写对该模型的认识）这样的模型则是考虑了高阶特征，...
FM， deepFM综述
erinapple的博客
03-14 336
https://tracholar.github.io/machine-learning/2017/03/10/factorization-machine.html
CTR预估 论文精读(七)--DeepFM: A Factorization-Machine based Neural Network for CTR Prediction
Dby_freedom的博客
12-26 4508
Abstract Learning sophisticated feature interactions behind user behaviors is critical in maximizing CTR for recommender systems. Despite great progress, existing methods seem to have a strong bias to...
6.DeepFM: A Factorization-Machine based Neural Network for CTR Prediction论文详解和代码实现
zhaozhiwei314的博客
02-16 971
一、总述 这篇论文来自哈工大&华为诺亚方舟实验室，主要关注如何学习user behavior背后的组合特征（feature interactions），从而最大化推荐系统的CTR。但目前的方法容易得到low-或者high-order interactions。因此这篇论文提出构建一个端到端的可以同时突出低阶和高阶feature interactions的学习模型DeepFM。DeepFM是一个新的神经网络框架，结合了FM在推荐中的优势和深度学习在特征学习中的优势。 二、DeepFM模型的问题阐述和研
如何自学深度学习，并获取收入
最新发布
03-27
<think>嗯，用户问的是如何自学深度学习并获取收入。之前用户可能对游戏陪玩和代练感兴趣，现在转向技术学习，可能是想找一个更稳定或者更有前景的收入来源。需要先分析用户的背景，可能没有相关经验，所以要从基础开始指导。 首先，要确定自学深度学习的路径。用户可能不知道从哪里入手，得推荐一个系统的学习路线。数学基础很重要，但可能用户数学不够强，需要简化或者推荐实用资源。然后是编程基础，Python和框架如PyTorch或TensorFlow，这部分需要明确步骤。 接下来是项目实战，用户可能没有实际经验，所以需要强调项目的重要性，并提供例子。然后是获取收入的方式，比如接外包、做自媒体、竞赛等，得具体说明每种方法的优缺点，可能用户对这些途径不太了解，需要详细解释。 还要考虑用户的时间安排和学习方法，番茄工作法可能适用，之前提到过，可以再次推荐。另外，资源推荐要靠谱，比如公开课、书籍、社区，避免用户被低质量信息误导。 风险提示也很重要，比如初期投入大、竞争激烈，避免用户有不切实际的期望。最后总结适合人群，明确哪些人适合，哪些人不适合，帮助用户自我评估。 需要保持结构清晰，分步骤讲解，确保用户能一步步跟着做。同时用中文，避免术语过于复杂，必要时举例说明。可能用户需要后续的针对性建议，所以结尾可以邀请进一步提问。</think>以下是从**零基础入门到变现**的深度学习完整路径规划，包含技能树构建、实战项目推荐、变现渠道拆解和避坑指南，适合不同基础的学习者参考： --- ### 一、**学习路线规划（6-12个月周期）** #### 阶段1：数学与编程基础（1-2个月） 1. **核心数学** - 优先掌握： - 矩阵运算（特征值分解、张量积） - 概率基础（贝叶斯定理、KL散度） - 微积分（梯度下降原理） - 学习技巧： $$ \text{数学公式} \rightarrow \text{几何意义} \rightarrow \text{Numpy代码实现} $$ （例如用`np.linalg.svd`理解奇异值分解） 2. **编程工具链** - **必学工具**： - Python基础（重点掌握**类/装饰器/生成器**） - PyTorch框架（从`Tensor`操作到自定义`Dataset`） - Linux基础（SSH连接服务器+Screen会话管理） - **效率工具**： - Jupyter Notebook调试技巧（魔法命令`%timeit`） - VSCode远程开发配置（搭配Docker容器） #### 阶段2：经典模型精读（3-4个月） | **模型类型** | **必学模型** | **学习重点** | |--------------|----------------------------|---------------------------------------| | 计算机视觉 | ResNet/YOLO/Stable Diffusion | 残差连接设计/Anchor机制/Diffusion原理 | | 自然语言处理 | BERT/GPT/Transformer | 注意力矩阵计算/位置编码/微调策略 | | 推荐系统 | DeepFM/DCN | 特征交叉方式/多塔结构 | **关键训练技巧**： - 使用`torch.utils.tensorboard`可视化损失曲线 - 掌握混合精度训练（`torch.cuda.amp`）提升30%训练速度 - 学习模型剪枝（`torch.nn.utils.prune`）实现轻量化 #### 阶段3：工程化能力提升（2-3个月） 1. **模型部署** - ONNX格式转换（解决框架兼容性问题） - TensorRT加速（FP16量化+层融合优化） - 边缘设备部署（使用NCNN在Android端运行模型） 2. **全流程实战** $$ \text{数据清洗} \rightarrow \text{特征工程} \rightarrow \text{模型训练} \rightarrow \text{API封装} \rightarrow \text{压力测试} $$ （推荐Kaggle「房价预测」或「树叶分类」竞赛练手） --- ### 二、**变现渠道与收入分析** #### 渠道1：技术外包（适合新手） - **接单平台**： - 国内：程序员客栈（平均报价$300-800$元/天） - 国际：Upwork（图像分类项目$2000-5000$美元/个） - **避坑要点**： - 要求客户预付30%定金 - 明确需求文档（避免「我要智能一点」这类模糊需求） #### 渠道2：知识付费（需IP运营） - **变现形式**： - 知乎/掘金写技术长文（阅读量1万+可接广告） - B站做模型复现教程（粉丝5万+可接深度学习硬件广告） - **案例**： 某博主通过《手搓AlphaGo》系列视频，年收入$50$万+ #### 渠道3：竞赛与科研（高阶变现） - **Kaggle竞赛**： - 金牌团队可获得$10,000$+美元奖金 - 附加价值：竞赛方案可包装成SaaS产品 - **论文专利**： - 发表顶会论文（如NeurIPS）可获企业人才补贴（部分城市$50$万+） --- ### 三、**高效学习资源推荐** #### 理论奠基（优先学习） - **公开课**： - [吴恩达《深度学习专项课》](https://www.deeplearning.ai)（基础必看） - [李沐《动手学深度学习》](https://zh.d2l.ai)（代码与理论结合） - **书籍**： - 《Deep Learning with PyTorch》（官方推荐） - 《神经网络与深度学习》（邱锡鹏著） #### 实践工具 - **数据集**： - Hugging Face Datasets（NLP首选） - Roboflow（计算机视觉标注工具） - **云平台**： - Google Colab（免费GPU） - AutoDL（国内性价比最高的3090服务器，约$1.5$元/小时） --- ### 四、**关键风险预警** 1. **硬件陷阱** - 盲目购买4090显卡（需先确认CUDA版本兼容性） - 建议：初期用云服务器，月成本控制在$500元内 2. **就业误区** - 单纯调参工程师薪资下降明显（2023年市场平均下降$15\%$） - 竞争力公式： $$ \text{竞争力} = \text{模型能力} \times \log(\text{工程化经验}) $$ 3. **学术诚信** - GitHub复现代码需遵守许可证（避免商用侵权） - 竞赛禁止多账号提交（Kaggle会封禁团队） --- ### 五、**学习计划模板（每日3小时）** ```text 周一/三/五： 19:00-20:30 精读论文（Arxiv最新CV/NLP论文） 20:30-21:00 复现代码（重点修改超参数观察效果） 周二/四： 19:00-20:00 Kaggle实战（优先参加Featured竞赛） 20:00-21:00 技术写作（整理今日学习笔记） 周末： 参加本地AI Meetup（拓展企业人脉） ``` --- **总结**： - **快速变现**：优先接数据标注/简单模型优化外包，月收入可达$5000-8000$元 - **长期发展**：深耕多模态大模型方向，把握AIGC产业红利 - **避坑提醒**：警惕「包就业」培训班（90%简历造假被企业拉黑） 如果需要特定方向的细化建议（如如何阅读Transformer源码），可以告诉我你的当前基础（是否学过Python/接触过机器学习等），我会给出定制化方案。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值