Embedding技术在推荐场景实践

【2025必看】Embedding技术的十大核心应用场景解析 本文深度解析十大核心应用场景:从CLIP模型实现85.3%的跨模态检索精度,到AlphaFold2的原子级蛋白质预测;从提升53%的冷启动转化率,到驱动15%超额收益的量化策略。更前瞻性探讨量子Embedding、动态实时编码等前沿方向,揭示这项技术如何赋能80%的AI场景,创造千亿级经济价值。 阅读详情

前言

深度学习是当前热门课题,核心流程包含:数据表征、数据录入与建模、基于结果调优。“万丈高楼平地起”,如果数据根基不稳,那么很难达成理想结果。

本文从这个问题切入,和大家交流如何用Embedding表征对象,以及如何在业务落地。

图片

万物皆可Embedding

图片

Embedding简史

图片

Embedding最早由Hinton在1986年提出,直到2013年word2vec的推出,让一切皆可embedding,并迅速应用在特征表达,画像构建召回排序业务场景

在正式接触Embedding之前,我们先了解一下One-Hot编码表征对象方法:

浅粉红粉红猩红One-Hot编码
100浅粉红:[1,0,0]
010粉红:[0,1,0]
001猩红:[0,0,1]

One-Hot编码优点是简单实现,但是无法表达更多有意义的含义(比如范例中的色差)。每多一种色彩,那么维度就多一层,在成功表征对象的同时,引发了新的多维度问题(维度灾难)

如何解决上述问题呢?有请Embedding主角登场!

Embedding定义

Embedding 字面理解是“嵌入”,实质是一种映射,从语义空间到向量空间的映射,同时尽可能在向量空间保持原样本在语义空间的关系。

通俗理解:用特定的数字表达一个“对象”object,并且保留原样本的语义(比如色差、距离) 。

同样借助色彩表征例子来理解概念:

颜色RGB格式
浅粉红[255, 182, 193]
粉红[255, 192, 203]
猩红[220, 20, 60]

通过One-Hot和Embedding对比来加深理解:

图片

  • Embedding映射后的数据,相较于One-hot更加稠密
  • One-Hot每一个对象独立标识,那么存在维度灾难
  • One-Hot只能标识一个对象,但是无法像embedding赋予对象更多寓意表达(相似度、距离、色差等)

Embedding原理

文本:“Embedding技术对深度学习推荐系统的重要性”

目标:将里面的每一个分词,都可以用向量数字表达

模型:Embedding有两种建模方式CBOW(给定上下文,预测中心词)和Skip-gram(给定输入词,预测上下文),这里选择Skip-gram作介绍

图片

主要分为三个步骤:

  1. 数据预处理,去掉“对”、“的”等无意义的语气助词
  2. 滑窗获取素材,滑窗定为3,那么每次将邻近3个词做为一组素材(eg:Embedding、技术、深度学习),同时将中心词(eg:技术)作为输入,另外词(Embedding、深度学习)作为输出,以此类推
  3. 数字向量表达对象,有了训练素材集合,再加上借助Item2Vec模型,就可以水到渠成得到每个词的向量化表达了

图片

Embedding技术在业务实践

实践思路

我们将站台用户点击序列拼接得到长文本,输入到item2Vec建模,得到每个物件的Embedding向量值Post_Embedding向量表达。再将用户所看到Post_Embeddings值整合,就得到User_Embedding。

数据分析

基础信息比对:

图片

深度信息比对:

图片

结论:用户实际看物件与Embedding推荐集合,存在深度相关性,大概率会被用户点击!

业务场景

基于用户浏览行为,每天定时为用户推送 “喜好” 笋盘集

图片注:图源安居客(侵删),我司业务场景与其类似,仅供参考

实践步骤

1. 将站台所有用户的点击序列串连

用户id点击序列
A1,2,3,4
B2,3,6,7
C3,4,7,6

聚合点击序列得到click_order_str:1,2,3,4,2,3,6,7,3,4,7,6…

2. 点击序列集合导入到item2vec中

model = word2vec.fit(click_order_str)

3. 得到每个物件的embedding

4. 通过物件集求embedding之和,得到人的embedding

result = scores_table.select('userId','emb').rdd.map(lambda x: (x[0], x[1])) .reduceByKey(lambda a, b:[a[i] + b[i] for i in range(len(a))]).collect()
  1. 以人的embedding为参数,得到相似度最高前N个物件
syms = model.findSynonyms(row[1], 150)
  1. 对相似集业务过滤,推荐给对应用户
    业务过滤包含不限于:用户已看、价差较大、物件质量较低等,在推送给用户前剔除

我另外整理了简版demo(包含代码和测试数据)便于大家学习

业务成效

在原有ALS基础上,我们融合了Embedding集合,最终物件点阅数显著提升 !

Embedding进阶

如果我们的业务实际素材不够丰富,或者期望更多的训练素材,大家可使用随机游走得到“模拟”训练集。

基于Graph-Embedding的随机游走:Deep Walk

在这里插入图片描述

除了串联已有的点击序列,作为数据建模,还可以利用图结构,扩大我们的数据集,以得到更丰富的embedding向量表达。

我们将被点击到的已知物件ID取出,再结合用户点击序列顺序,进行如图b所示随机游走,得到图c更为丰富的点击序列。同样借助item2vec建模,得到数据集。

结论:用Deep Walk在租售场景应用,得到的结果不理想,体现在用户已看物件和推荐物件落差极大,因此不做更进一步探究!

图片

总结

图片

目前我们已经学习了ALS、Embeding两种推荐算法,并在业务落地应用,这些都是多路召回的不同策略。下一篇,我们会重点探讨精准排序的实现,让推荐场景从推送衍生到搜索排序,发挥更大业务价值!

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】
深度学习推荐系统 深度学习推荐系统互联网的增长引擎 —— 推荐系统前深度学习时代 —— 推荐系统的进化之路协同过滤UCF矩阵分解FM浪潮之巅 —— 深度学习在推荐系统中的应用强化学习和推荐系统的结合Embedding 技术在推荐系统中的应用多角度审视推荐系统深度学习推荐系统的工程实现在线部分召回粗排(可选)排序业务策略近线部分离线部分推荐系统的评估深度学习推荐系统的前沿实践FacebookGBDT+LRDLRM (... 阅读详情

相关推荐

Embedding和向量检索服务使用介绍

写入向量之前,我们首先需要先创建一个集合来管理数据集。创建集合的时候,需要指定向量维度,这里的每一个输入文本经过DashScope上的text_embedding_v1模型产生的。,英文名为text-embedding-v1。我们可以方便的通过DashScope API调用来获得一段输入文本的embedding向量。说明:需要使用您的api-key替换示例中的 your-dashvector-api-key ,代码才能正常运行。api-key替换示例中的 your-dashscope-api-key。

具身机器人和通用AI 1792

一文梳理推荐系统的中 EMBEDDING 的应用实践

“自Embedding的概念问世以来,Embedding的探索和应用就没有停止过,Word2Vec、Sentence2Vec、Doc2Vec、Item2Vec,甚至Everything2Vec。对,“万物皆可Embedding”。几年来,Embedding在推荐系统中的应用也越来越多,方式众多,技法新颖。” 作者:卢明冬,个人博客:https://lumingdong.cn/application-practice-of-embedding-in-recommendation-system.html .

hellozhxy的博客 3847

Embedding技术在商业搜索与推荐场景的实践

Embedding技术在商业搜索与推荐场景的实践

永远飞翔的鸟 210

Embedding入门概述

Embedding概述、主要阶段、应用场景、相似度、词向量、生成方法对比、类型(Word Embedding、Sentence Embedding、Document Embedding)、核心技术(训练方法、优化策略)、最佳实践、模型、挑战与未来

lonelymanontheway的博客 1267

利用Matlab实现矩形波导电磁场分布图的绘制

1.利用Matlab实现矩形波导电磁场分布图的绘制;2.学会使用 Matlab 进行数值计算,并绘出相应的图形;通过Matlab 计算并绘出任意时刻金属矩形波导的主模 TE10 模的电磁场分布图。波导尺寸、工作频率及时刻均由外部给定。(1)矩形波导中传输的主模为TE10模。设金属波导尺寸为a*b,TE10模的截止波长为2*a。其电磁场分量可推导表示如下:.......1-1上式中各参量如下:......1-2。

qq_26335381的博客 3058

步进电机

步进电机

happygrilclh的博客 2140

初识 Embedding,为何大家都基于它搭建私人智能客服?

基于以上问题 OpenAI 官方提供了两种不同私有化模型定制方式:Fine-Tuning(微调)、Embedding(嵌入)。

python12345678_的博客 976

SAR ADC和sigma delta ADC的区别

0、ADC基本概念 ADC,即analog to digital converter,模拟到数字的转换器,简称模数转换器。 为什么需要ADC?因为现实的世界中,电信号是连续的,例如心电信号,或者声音信号,这些连续的信号被称为“模拟信号”。 图1:心电信号 图2:声音信号 然而这种连续的信号是无法被计算机处理的,计算机只认识0和1组成的“数字信号“。ADC就充当了这样一个桥梁,将“模拟信号”转换为计算机能识别的“数字信号”。举个例子,当前的心电电压为1.2V(实际没有这么高),ADC可能会得

长河柱天的博客 2万+

NLP自然语言处理与神经网络——01.embedding实现(理论+实践)

为了对前面的word_embedding这种常用的文本向量化进行巩固,这里完成一个文本情感分类的案例点我这是一条包含了五万条流行电影的评论数据,其中训练集25000条,测试集25000条,数据格式如下:下图分别为名称和评论内容,名称包含两部分,分别是序号和情感评分,(1-4为neg,5-10为pos)

m0_51474171的博客 3691

generate for与always内for:Verilog循环的静态生成与动态执行之辨

本文深入解析Verilog中generate for与always内部for循环的核心差异。generate for使用genvar变量在编译时静态生成硬件结构,适用于模块实例化;always内部for使用整型变量在运行时动态执行,综合为并行逻辑。理解这两种循环的适用场景和综合结果对提升数字电路设计质量至关重要。

yog99的博客 1087

MATLAB2021b详细安装教程

1.下载 2.安装 下载安装包后打开iso文件,若是无法打开请用解压软件打开。 ①打开MATLAB_R2021b_win64,双击软件开始安装 ② 一直点击下一步,直到步骤③ ③选择我已有我的许可证的文件密钥,并输入62551-02011-26857-57509-64399-54230-13279-37181-62117-65158-40352-64197-45508-24369-45954-39446-39538-16936-10698-58393-44718-32560-10501-40

惜洛-Jankin的博客 9万+

业界分享 | Embedding技术在商业搜索与推荐场景的实践

Embedding对文本语义、用户行为进行向量化,通过数学计算表达广告和用户关系,具备易表示、易运算和易推广的特点。从C端视角来看,58商业将Embedding作为广告的一种理解方式,使我...

Kaiyuan_sjtu的博客 1179

linux 内核OOM问题定位-SLAB_DEBUG

首先看slabinfo按的size排序查看 slub object,可以查看 space 总占用大小,及objects个数判断泄漏点 为kmalloc-128。那个泄露多看/sys/kernel/debug的slab/kmalloc*-的alloc-traces和free-traces。SLAB或者SLUB有一个用就可以,改menuconfig没有clean会覆盖之前的更改,现在看一下编译的过程。或者配置defconfig,配置完之后需要clean后再编译。1,配置menuconfig。

陌上花开缓缓归以的博客 899

Embedding技术在房产推荐中的应用

导读:在深度学习的应用过程中,Embedding 这样一种将离散变量转变为连续向量的方式为神经网络在各方面的应用带来了极大的扩展,有"万物皆可 Embedding"的说法。本文将以58同城为例,分享 Embedding 相关技术的实践,将首先介绍58同城房产的相关业务和推荐场景,然后讲解 Embedding 的相关技术实践方案,最后会深入介绍 Embedding 技术在房产业务推荐上的落地。 主要内容包括: 房产业务及推荐场景 Embedding 的相关技术 Embedding

hellozhxy的博客 438

基于ESP32的智能无线广播系统开发博客

通过本项目的开发,我们成功地实现了基于ESP32的智能无线广播系统。该系统不仅具备传统广播的功能,还实现了通过Wi-Fi无线传输音频、实时广播和智能控制等多种先进功能。未来,随着技术的进一步发展,我们还可以扩展更多功能,如智能推荐广播内容、支持语音识别和控制等。希望本项目能够为嵌入式开发人员提供一些思路和参考,帮助大家在实际开发中更好地应用ESP32平台,开发出更加智能和实用的无线广播系统。

2201_76125393的博客 423

从 VL02N 拣配到 ABAP 自动化,读懂 SD_DELIVERY_UPDATE_PICKING 的位置和风险

文章摘要:SAP SD模块中,SD_DELIVERY_UPDATE_PICKING函数模块用于处理出库交货单的拣配确认,更新交货项目的拣配数量。该函数适用于未启用WM/EWM的传统SD流程,能确保拣配状态与标准交货处理逻辑同步,比直接修改数据库更安全。但在S/4HANA Cloud等新环境中,应优先使用API_OUTBOUND_DELIVERY_SRV等公开发布接口。使用该函数时需注意参数完整性和按交货单整体处理的原则,避免逐项提交导致的数据不一致问题。(149字)

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 246

推荐系统相关知识链接

1-好:EMBEDDING 在大厂推荐场景中的工程化实践 https://lumingdong.cn/engineering-practice-of-embedding-in-recommendation-scenario.html 论文: 1(Y ouTube - 2016 年 9 月的 RecSys ) https://static.googleusercontent.com/medi...

serenysdfg的博客 211

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

深入解析Embedding技术:原理、实战案例与工程化应用

摘要: Embedding技术通过将高维离散数据映射为低维连续向量,解决了传统方法(如独热编码)的维度灾难和语义缺失问题。其核心原理包括图像嵌入(CNN提取视觉特征)和词嵌入(Word2Vec捕捉语义关联),适用于推荐系统、长文本问答等场景。例如,电商平台利用用户/商品Embedding提升推荐效果(点击率+25%),而长文本问答系统通过段落Embedding突破大模型输入限制(准确率提升至88%)。工程优化需关注数据预处理、维度选择及计算效率,平衡精度与性能。 关键词: Embedding、向量化

没事学AI的博客 1326

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

机器学习模型在携程海外酒店推荐场景中的应用

导读 互联网企业的核心需求是“增长”,移动互联时代下的在线旅游业也不例外。随着大数据、云计算和人工智能等技术的不断进步,通过算法和模型来实现增长已成为核心。 近年来推荐系统迅速崛起,主要解决在信息过载的情况下,帮助用户高效获取感兴趣的信息,同时帮助企业最大限度的吸引用户、留存用户、增加用户黏性、提高用户转化率。因此个性化的推荐服务对于在线旅游业也变得非常重要,通过推荐能够将用户从众多的旅行选择中解放出来,指导用户快速找到感兴趣的项目,大大简化用户的旅行计划和购买。 在线旅游服务...

hellozhxy的博客 946

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

向量大模型(Embedding Model)技术教程与模型推荐

向量化是将高维离散数据(如单词、句子、图片)映射到低维连续向量空间(通常几十到几千维)的过程。单词"猫" → [0.2, -0.5, 0.7, …]句子"我喜欢编程" → [1.1, -0.3, 0.9, …]​​Qwen3-Embedding(阿里千问3向量模型)​​​​推荐理由​​:2025年最新发布,性能SOTA,支持100+语言,轻量化版本可用​​适用场景​​:中文语义搜索、多语言应用、代码检索​​BGE系列​​​​推荐理由​​:专为中文优化,社区支持好,多种尺寸选择​​适用场景​。

Rysxt_的博客 2130

RAG 技术选型决策树:根据场景选 Embedding、向量库和检索策略

Embedding 模型选择中文场景 + 成本敏感 → BGE / BCE多语言 + 快速原型 → OpenAI text-embedding-3-small高精度要求 → OpenAI text-embedding-3-large专业领域 → 领域微调模型向量数据库选择< 100万 → FAISS100万 - 1亿 → Milvus / Qdrant1亿 → Elasticsearch / 商业云服务检索策略选择高精度优先 → 混合检索 + 重排序。

好代码自己会说话,烂代码才需要注释来圆谎 5055

【转载】Emdedding向量技术在蘑菇街推荐场景的应用

花名:越祈 部门:算法中心搜索策略组 入职时间:2017/06/01 主要从事蘑菇街推荐算法相关研发工作 蘑菇街是一家社会化导购电商平台,推荐一直是其非常重要的流量入口。在电商平台中,推荐的场景覆盖到用户浏览行为和交易的各个环节,如搜相似、商品详情页、购物车、订单和支付等。传统的itemCF、关联规则、simirank、swing等推荐相似召回技术也广泛应用于推荐各个场景中。在电商场...

weixin_30426879的博客 184

视频推荐

本次分享主要包括以下几个部分: 1. 业务背景; 2. 召回相关技术与实践; 3. 排序相关技术与实践; 4. 思考及未来规划。 1. 业务背景 底层页指在点击左侧双列feed流中点击一个视频(1号)后继续滑动出现的视频(234号) 在底层页推荐场景中除了需要考虑和主视频的相关性以外,还需要考虑上下文(用户对视频234的行为)。 底层页的整体框架如上图所示,当客户端发起推荐列表请求,服务端会依次做以下事情: 1.请求画像服务,得到描述用户兴趣的特征; 2.请求Tr...

mudan97的博客 1369

大模型入门:Embedding模型概念、源码分析和使用示例

本篇对嵌入模型的概念、Spring AI 框架对支持嵌入模型的设计,并对其源码进行分析,最后对API接口进行使用。

2301_81940605的博客 2万+
上一篇: 月之暗面对谈 Zilliz:长文本和 RAG 如何选择?
下一篇: 特征工程|四种主流的embedding特征技术
冻感糕人~
博客等级 码龄3年 8926粉丝 2389原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值