今天为大家分享的是杭州电子科技大学、天津大学、香港城市大学联合出品的社交媒体热度预测论文–RE-Rag,它把social attribute从"辅助特征"升维成"传播机制代理变量",让RAG检索终于能分清"内容像"和"传播路径像"。
同一张蓝铃花林的图片,发在不同作者、不同类别标签下,热度可能差几个数量级。现有RAG方法用语义相似度检索,结果把"图也像、文也像、但热度完全不同"的样本拉回来当辅助特征,反而把模型带偏。RE-Rag要解决的就是这种"伪相关检索"问题。
痛点在哪
一句话判断:语义相似不等于传播机制相似。论文Section 1一句话点透:相似内容可以挂在不同social context下,触达不同用户群,走不同扩散路径,最终热度天差地别。

现有方法的处理方式有三种问题:
- 第一类(MMRA、ICPF):只用语义相似度检索,完全忽略social attribute
- 第二类(RAGTrans):用hypergraph聚合social attribute,但只是粗粒度聚类,抓不住底层distribution mechanism
- 第三类(SKAPP):用BM25加权social attribute,但还是把它当内容相似度的辅助cue,没显式建模传播机制
论文核心判断:社交属性应该作为平台分发机制建模的代理变量,而不是内容相似度度量的辅助特征。。
核心思路
RE-Rag提出dual-factor模型:社交媒体热度由两个独立因子决定–
- content quality:内容本身有多吸引人
- distribution mechanism:平台把内容推给了多少用户,由author/category/language等social attribute决定
这个视角让social attribute从"feature"升维成"mechanism indicator",整个框架围绕"如何让检索和预测都感知这个机制"展开。

框架分两段:**Semantic-Attribute Retriever(SAR)**负责从数据库里捞"语义像+机制像"的实例,**Relation-Guided Predictor(RGP)**负责用relation map引导attention按属性关系分配权重。两段都把social attribute作为一等公民,而不是事后补丁。
方案细节
SAR检索
SAR分两阶段。第一阶段是语义匹配:对target和候选UGC分别算text和image的cosine相似度,再用α加权求和(image权重α,text权重1-α,最优α=0.3,text贡献更大)。这一步还是常规多模态相似度。
第二阶段是属性补偿,这是RE-Rag的关键创新。对每个social attribute计算rarity,分global和local两个视角:
- Global Rarity(GR):IDF形式,log(N_total / (freq+1)) + 1,衡量该属性值在整个数据库里的稀有度
- Local Rarity(LR):log(freq_max / (freq+1)) + 1,衡量该属性值在同属性内的稀有度
- 总rarity = sqrt(GR · LR) ,几何平均保证两个视角都重要
compensation weight对每个属性独立计算:(1 + Norm® · T(候选, 目标)),T是matching function–属性值不同为1,相同为0。直觉:稀有属性的差异更能区分传播机制,所以稀有且不同的属性会放大补偿权重。
最终匹配分 = 语义匹配分 × ∏补偿权重,按这个分取**top-N(N=40)**作为检索结果。
RGP预测
RGP的核心是把属性关系嵌入attention。先构造relation map:对任意两个实例(retrieved + target)在每个属性上打0/1/2分:
- 0:两个实例属性值不同
- 1:相同,但与target不同
- 2:相同,且与target相同
self-relation map(N×N×m,只含retrieved实例)给s-RGT用,cross-relation map(1×N×m,含target)给c-RGT用。
RGT的trick是把relation map注入attention的Key。标准attention是 softmax(Q·K^T/√d)·V,RE-Rag在K上做手脚:
- 先 M = MLP(Embed(E))
- 再 K_refined = K · M
- 然后用refined K做剩下的标准transformer计算
这样relation map通过M调制K,进而影响attention权重分配。
具体流程:
- Semantic Encoder用cross-attention融合text和image特征
- 每个retrieved实例的特征拼上自己的popularity和similarity score,过MLP加positional encoding作为s-RGT输入
- s-RGT用self-relation map做self-refinement
- c-RGT以target特征为Q、s-RGT输出为K/V,用cross-relation map做cross-refinement
- 最后target特征和c-RGT输出拼接过MLP出预测,L2 loss监督
实验结果
主结果:SMPD上三指标全面领先,相对次优提升30%左右;更难的SMTPD(282K样本、90+语言)也击败RAGtrans;ICIP小数据集上SKAPP略胜,因为attribute与distribution弱相关,RE-Rag的优势要在大规模复杂场景才体现。

效率亮点:SMTPD上RE-Rag检索只要72秒,比SKAPP快325倍,比RAGtrans快60倍。又快又准的原因是SAR的rarity加权直接过滤掉伪相关样本,不用像SKAPP那样做多阶段refinement。

消融结论:三件套都贡献明确–去retrieval MSE翻倍(地基);去attribute compensation涨25%(纯语义不够);去relation map涨7%(属性关系嵌入attention有效);去c-RGT比去s-RGT的MSE涨更多,c-RGT更能压极端误差,s-RGT和c-RGT互补。

学AI大模型的正确顺序,千万不要搞错了
🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!
有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!
就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!
我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~
这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

414



被折叠的 条评论
为什么被折叠?



