RAG牛了,天大RE-Rag更懂用户

OpenViking上下文数据库Golang集成实践 技术创新文件系统范式:将AI Agent的上下文管理从扁平向量存储提升为结构化文件系统分层检索策略:L0/L1/L2三层加载机制,减少62.1%的Token消耗记忆自迭代:会话提交触发Agent经验沉淀,实现越用越智能工程实践完整Golang实现:提供生产级可用的OpenViking客户端库企业级集成方案:涵盖文档摄入、检索、会话管理等全流程性能优化成果:检索准确率提升24.1%,响应时间减少53.3%可观测性提升可视化检索轨迹:实现检索过程的白盒化,调试效率提升77.1%全面监控指标。 阅读详情

今天为大家分享的是杭州电子科技大学、天津大学、香港城市大学联合出品的社交媒体热度预测论文–RE-Rag,它把social attribute从"辅助特征"升维成"传播机制代理变量",让RAG检索终于能分清"内容像"和"传播路径像"。

同一张蓝铃花林的图片,发在不同作者、不同类别标签下,热度可能差几个数量级。现有RAG方法用语义相似度检索,结果把"图也像、文也像、但热度完全不同"的样本拉回来当辅助特征,反而把模型带偏。RE-Rag要解决的就是这种"伪相关检索"问题。

痛点在哪

一句话判断:语义相似不等于传播机制相似。论文Section 1一句话点透:相似内容可以挂在不同social context下,触达不同用户群,走不同扩散路径,最终热度天差地别。

现有方法的处理方式有三种问题:

  • 第一类(MMRA、ICPF):只用语义相似度检索,完全忽略social attribute
  • 第二类(RAGTrans):用hypergraph聚合social attribute,但只是粗粒度聚类,抓不住底层distribution mechanism
  • 第三类(SKAPP):用BM25加权social attribute,但还是把它当内容相似度的辅助cue,没显式建模传播机制

论文核心判断:社交属性应该作为平台分发机制建模的代理变量,而不是内容相似度度量的辅助特征。。

核心思路

RE-Rag提出dual-factor模型:社交媒体热度由两个独立因子决定–

  • content quality:内容本身有多吸引人
  • distribution mechanism:平台把内容推给了多少用户,由author/category/language等social attribute决定

这个视角让social attribute从"feature"升维成"mechanism indicator",整个框架围绕"如何让检索和预测都感知这个机制"展开。

框架分两段:**Semantic-Attribute Retriever(SAR)**负责从数据库里捞"语义像+机制像"的实例,**Relation-Guided Predictor(RGP)**负责用relation map引导attention按属性关系分配权重。两段都把social attribute作为一等公民,而不是事后补丁。

方案细节

SAR检索

SAR分两阶段。第一阶段是语义匹配:对target和候选UGC分别算text和image的cosine相似度,再用α加权求和(image权重α,text权重1-α,最优α=0.3,text贡献更大)。这一步还是常规多模态相似度。

第二阶段是属性补偿,这是RE-Rag的关键创新。对每个social attribute计算rarity,分global和local两个视角:

  • Global Rarity(GR):IDF形式,log(N_total / (freq+1)) + 1,衡量该属性值在整个数据库里的稀有度
  • Local Rarity(LR):log(freq_max / (freq+1)) + 1,衡量该属性值在同属性内的稀有度
  • 总rarity = sqrt(GR · LR) ,几何平均保证两个视角都重要

compensation weight对每个属性独立计算:(1 + Norm® · T(候选, 目标)),T是matching function–属性值不同为1,相同为0。直觉:稀有属性的差异更能区分传播机制,所以稀有且不同的属性会放大补偿权重。

最终匹配分 = 语义匹配分 × ∏补偿权重,按这个分取**top-N(N=40)**作为检索结果。

RGP预测

RGP的核心是把属性关系嵌入attention。先构造relation map:对任意两个实例(retrieved + target)在每个属性上打0/1/2分:

  • 0:两个实例属性值不同
  • 1:相同,但与target不同
  • 2:相同,且与target相同

self-relation map(N×N×m,只含retrieved实例)给s-RGT用,cross-relation map(1×N×m,含target)给c-RGT用。

RGT的trick是把relation map注入attention的Key。标准attention是 softmax(Q·K^T/√d)·V,RE-Rag在K上做手脚:

  • 先 M = MLP(Embed(E))
  • 再 K_refined = K · M
  • 然后用refined K做剩下的标准transformer计算

这样relation map通过M调制K,进而影响attention权重分配。

具体流程:

  • Semantic Encoder用cross-attention融合text和image特征
  • 每个retrieved实例的特征拼上自己的popularity和similarity score,过MLP加positional encoding作为s-RGT输入
  • s-RGT用self-relation map做self-refinement
  • c-RGT以target特征为Q、s-RGT输出为K/V,用cross-relation map做cross-refinement
  • 最后target特征和c-RGT输出拼接过MLP出预测,L2 loss监督

实验结果

主结果:SMPD上三指标全面领先,相对次优提升30%左右;更难的SMTPD(282K样本、90+语言)也击败RAGtrans;ICIP小数据集上SKAPP略胜,因为attribute与distribution弱相关,RE-Rag的优势要在大规模复杂场景才体现。

效率亮点:SMTPD上RE-Rag检索只要72秒,比SKAPP快325倍,比RAGtrans快60倍。又快又准的原因是SAR的rarity加权直接过滤掉伪相关样本,不用像SKAPP那样做多阶段refinement。

消融结论:三件套都贡献明确–去retrieval MSE翻倍(地基);去attribute compensation涨25%(纯语义不够);去relation map涨7%(属性关系嵌入attention有效);去c-RGT比去s-RGT的MSE涨更多,c-RGT更能压极端误差,s-RGT和c-RGT互补。

学AI大模型的正确顺序,千万不要搞错了

🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!

有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!

就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋

在这里插入图片描述

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!

我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

轻量级Agentic RAG系统:让AI自主决定查本地还是搜网络 Agentic RAG是一种融合检索增强生成(RAG)与智能决策能力的新型AI架构,其核心在于引入可解释、可调试的决策层,使系统能基于语义充分性判断是否调用网络搜索,而非依赖固定规则或阈值。相比传统RAG局限于预置知识库的被动响应,Agentic RAG通过模型自评+结构化知识库+多级Web搜索过滤,实现了动态信息获取路径规划。该技术显著提升问答准确性与时效性,适用于企业知识助手、学术研究工具等需兼顾内部资料与外部实时信息的场景。本文以Intel Neural Chat 7B和七大奇迹知识库为例,详解Age 阅读详情

相关推荐

本地RAG文本推理系统:隐私可控的个人知识管理方案

RAG(检索增强生成)是一种将信息检索与大语言模型生成能力结合的基础AI架构,其核心原理是通过外部知识库实时召回相关片段,再交由轻量模型进行精准响应。该技术在保障数据隐私、降低算力依赖、提升领域适配性方面具有显著工程价值,广泛应用于法律合同分析、技术文档摘要、采访内容萃取等需高可信度文本处理的场景。相比云端API或全量微调,本地RAG以‘可解释的检索+可约束的生成’实现逻辑复现与偏好固化,尤其适合处理PDF、Word、Markdown等私有文档。本文聚焦基于pdfplumber、all-MiniLM-L6-

414

基于RAG的企业智能客服项目,已拿70万offer!

基于 RAG 构建一套企业智能客服系统📖。

m0_59164520的博客 1449

从苦涩教训到AI工程实践:大模型时代的范式转移与学习路线

在人工智能领域,计算能力的指数级增长往往比人类精心设计的复杂方法更能推动根本性突破,这一原理深刻影响了现代AI的发展路径。从早期的专用模型到如今的大语言模型,技术演进的核心逻辑在于利用通用学习方法和海量计算资源,而非依赖有限的人类先验知识。这种范式转移带来了巨大的技术价值,使得单一模型能够通过简单的训练目标(如下一个词预测)从数据中自动学习并涌现出复杂能力。在应用场景上,AI工程实践的重点已从传统的模型训练转向提示工程、检索增强生成和AI智能体编排。本文基于这一背景,探讨了如何通过掌握大模型API、构建RA

weixin_30326741的博客 355

从Vibe Coding到可控生产力:Harness Engineering的实践启示

摘要:OpenAI提出的Harness Engineering(工程化治理)理念为AI Agent时代的软件工程提供了关键方法论,旨在解决代码高产出下的质量闭环、上下文管理等核心矛盾。其三大目标包括重构工程师角色、将AI纳入可控体系、实现低成本纠错,通过六大举措(如角色重构、机械化约束、反熵机制等)重构工程流程。该理念与vibe coding高度互补,既保留灵感驱动的敏捷性,又通过工程化体系保障稳定性,最终推动工程师从"代码生产者"升级为"工程体系设计者"。

小程故事多的博客 4401

从零构建AI大模型应用平台:架构设计、核心模块与工程实践

在人工智能工程化领域,构建稳定、可扩展的应用平台是释放大模型潜力的关键。其核心原理在于通过分层架构解耦复杂系统,将模型能力、数据处理与服务部署标准化。这一工程实践的技术价值在于,它能将前沿的AI技术转化为可靠的生产力工具,显著降低应用开发与运维的复杂性。典型的应用场景包括企业级智能问答、文档分析与代码助手等,这些场景往往需要处理海量非结构化数据并提供实时、准确的响应。本文深入探讨了如何设计并实现这样一个平台,特别聚焦于检索增强生成(RAG)引擎的工业化实现与高性能模型服务部署,为开发者提供从架构选型到核心模

cri5768的博客 514

Anthropic Claude‘归零层’:语义校验环的工程消除与能力密度跃升

大语言模型推理中的冗余计算是制约性能与成本的关键瓶颈。传统动态语义校验机制虽旨在提升输出一致性,却因全量覆盖、超线性开销和状态耦合,成为长文本处理、RAG融合与多轮对话场景下的隐性天花板。Anthropic通过将校验逻辑解耦为静态知识锚点(SKA)与动态决策快照(DDS),实现从‘每步必检’到‘关键节点感知’的范式迁移。该设计不仅显著降低GPU显存占用与首token延迟,更在不牺牲语义保真度的前提下提升推理确定性。适用于法律合规审查、低延迟客服引擎及结构化文档摘要等对稳定性与成本敏感的工业级AI应用。

weixin_30932215的博客 405

AI Agent工程化落地:非AI层架构与RAG精度控制实战指南

AI Agent并非仅由大模型驱动的智能体,其生产可用性核心取决于网络通信、状态管理、工具调度和可观测性等非AI层设计。RAG也不是简单接入向量库,而是需通过Query语义净化、业务感知的Chunk切分及规则熔断式重排序实现三重精度控制。本文聚焦私有化部署、低算力适配、多租户隔离与审计日志完备性等真实落地约束,结合i5笔记本跑通RAG+Tool Calling+Memory持久化的实证经验,系统拆解银行风控、医疗HIS、政务云等高合规场景下的Agent架构选型、故障归因与压测验证方法。

weixin_30628801的博客 473

企业级AI编排:MuleSoft与LangChain分层协同实践

AI编排(AI Orchestration)是将大语言模型能力系统性嵌入企业现有业务流程的技术范式,其核心在于解决AI的不确定性与企业系统对确定性、可审计性、可治理性的刚性要求之间的矛盾。原理上需通过分层架构实现物理隔离与逻辑贯通——由集成平台(如MuleSoft)承担数据契约管理、动态脱敏、协议转换与服务治理,由AI框架(如LangChain)专注语义推理与生成逻辑。这种协同不仅提升AI落地的工程韧性,更支撑GDPR合规、成本归因、故障熔断等关键企业需求。典型应用场景包括销售智能助手、客户挽留话术生成、保

weixin_30383279的博客 349

从Transformer到Agentic AI:构建AI工程知识图谱的演进与实践

Transformer架构通过自注意力机制实现了序列建模的范式革命,其并行化特性奠定了大模型训练的基础。预训练-微调范式推动了AI工业化生产,而检索增强生成(RAG)技术通过结合外部知识库有效缓解了大模型的幻觉问题。随着参数规模增长出现的涌现能力,使得大语言模型展现出复杂推理潜力。基于这些技术,应用框架层通过提示工程和工具链整合,支撑起智能体(Agent)系统的构建。Agentic AI作为前沿方向,通过规划、工具使用和记忆机制,使AI系统能自主完成多步骤任务,代表了从工具到协作伙伴的范式转移。理解从底层架

weixin_34088583的博客 423

MiniMax M2.7多角色协同能力实测:从西游取经看AI角色内生逻辑

大语言模型的角色扮演正从‘表面拟人’迈向‘内在驱动’——这背后是角色信念强度、关系熵值与行为惯性的可计算建模。MiniMax M2.7通过隐式状态向量与长上下文情节压缩,实现多智能体自主目标拆解、动态资源调度与风格一致的结构化输出。其技术价值在于将抽象人格转化为可推理、可衰减、可传染的决策变量,支撑真实业务中复杂协作场景(如跨角色冲突调解、业力约束下的道德权衡、带风险预判的甘特式规划)。本文以西游取经为沙盒,揭示M2.7如何在无外部工具、极简提示下,完成从任务理解到创意涌现的全链路闭环,尤其适用于需多立场协

weixin_33727510的博客 392

AGI不是更大模型:具身认知、因果引擎与价值演化的三大支柱

通用人工智能(AGI)的本质区别不在于参数规模或数据量,而在于是否具备自主感知、因果推理与动态目标演化能力。当前大语言模型受限于统计拟合范式,在符号接地、因果机制和目标函数静态性上存在不可逾越的数学天花板。真正迈向AGI需构建三大技术支柱:具身认知——通过感知-行动闭环建立物理世界理解;因果引擎——脱离文本共现,实现可验证、可干预的结构化推理;价值演化——支持自监督的目标生成、修正与约束锚定。这些能力已在工业质检、医疗辅助、金融风控等真实场景中完成轻量化落地验证,标志着从‘会说’到‘会想、会判、会担责’的范

a359798678的博客 326

国产AI服务如何实现日调用1.4万亿次的工程实践

大模型服务从实验室走向大规模生产,核心已不再是参数量或评测分数,而是高并发、低延迟、低成本、强稳定性的工程化能力。‘AI即服务’(AIaaS)的本质,是将大模型转化为像数据库或消息队列一样可即取、可计量、可编排的基础设施。这要求在模型轻量化、推理引擎优化、服务框架设计与异构基础设施调度四个维度深度协同。其中,混合专家(MoE)结构的可控激活、PagedAttention显存管理、无状态服务治理及RDMA网络加速等关键技术,共同支撑起每秒亿级请求的确定性响应。本文以Qwen3.6-Plus为实证案例,解析万亿

weixin_30369041的博客 447

用AI学习graphify

Graphify是一个AI驱动的知识图谱构建工具,能够将代码、文档、论文、图像和视频等多模态数据转换为结构化知识图谱。其核心技术特点包括: 多模态处理能力: 支持25+编程语言的AST解析 处理PDF、Markdown等文档 集成Whisper进行音视频转录 高效知识提取: 采用确定性AST解析与LLM语义提取结合 相比直接读取源文件,查询token消耗最多减少71.5倍 增量更新机制仅处理变更文件 智能分析功能: 自动识别高中心性的"上帝节点" 发现跨领域的"意外连接&quo

我的专栏 752

GPT-4参数真相:1.8万亿不是单模型,而是专家池总规模

混合专家(MoE)是大模型实现参数规模与推理效率平衡的核心架构,其本质是将海量参数分布于多个独立子网络(专家),通过门控网络动态路由输入token,仅激活少数专家参与计算。这种稀疏激活机制并非固定比例,而受温度系数、top-k策略和负载均衡损失等多重因素影响,在真实业务中呈现1.8%–4.1%的动态浮动。技术价值在于以可控硬件成本支撑超大规模知识覆盖,典型应用于多领域长尾任务(如金融客服、法律咨询、代码生成)。本文聚焦可验证的工业级测量方法,基于A100实测数据,拆解‘1.8万亿参数’的真实构成与‘2%激活

weixin_30652897的博客 335

到底什么是Harness工程?一篇文章从入门到企业落地全解析

随着OpenClaw爆火,Harness Engineering(驾驭工程)成为AI编程时代的热门概念,很多小白对其感到陌生。本文用通俗类比和真实案例,避开复杂术语,从基础定义入手,讲清Harness Engineering的核心逻辑——人类工程师设计“约束系统”(马具),让AI模型(烈马)安全高效地完成代码工作,同时拆解其核心组件、企业落地场景和实战成果,帮小白快速入门,读懂这项能解放人力、提升效率的新技术,轻松掌握它的核心价值和落地思路。

program哲学 3289

【低轨】Starlink星链-Ku波段下行信号信号结构解析

Starlink播发位于10.7~12.7GHz之间的下行信号,该信号的设计意图是用于宽带网络通信,但是,文章通过对该信号信号体制的详细分析,以及解调出所调制的完整码序列,为利用Starlink信号进行定位解算提供了必要条件。(注,码序列对应的是卫星版本0.9,1.0和1.5)

iseeinvisible的博客 6309

大模型工程化:从Prompt到Harness,驾驭AI生产力新时代

大模型工程化三大范式:提示词工程、上下文工程与驾驭工程 摘要:随着大模型技术的成熟,行业焦点转向如何实现能力稳定落地。文章系统阐述大模型工程化的三大范式:提示词工程(Prompt Engineering)作为基础,通过标准化指令引导模型输出;上下文工程(Context Engineering)通过信息注入解决知识边界与幻觉问题;驾驭工程(Harness Engineering)构建全链路管控体系。三者呈递进互补关系,共同支撑生产级应用。当前趋势呈现三大特点:自动化Prompt优化、多模态场景融合、体系化管控

m0_63171455的博客 1855

Win10环境借助DockerDesktop部署Open web UI集成DeepSeek

Win10环境借助DockerDesktop部署Open web UI集成DeepSeek,并借助DuckDuckGo实现联网查询

虎鲸不是鱼 1705

graphify构建代码知识库,一行代码搭建属于自己的知识图谱

graphify 是一个将任意文件夹(代码、文档、图片、视频等)转化为可查询知识图谱的工具。它的核心理念是:与其让 AI 逐文件读取,不如先把所有内容构建成一张图,让 AI 按图索骥。 你可以把它理解为一个"代码库地图生成器"。输入一个项目目录,它会分析所有文件,提取概念、关系、调用链,然后用可视化的方式呈现给你。更重要的是,这张图是可以查询的——你可以问"认证模块和数据库之间有什么关系",而不需要自己去 grep 几十个文件。

努力前行,总会成为自己心中的那道光 8544

智能座舱通信技术解析:从CAN总线到车载以太网与V2X

在汽车电子与智能网联快速融合的背景下,座舱智能化已不再是简单的屏幕堆砌,而是依赖底层通信技术构建的复杂系统。CAN总线因高可靠性与确定性传输,持续承担车身控制与安全信号的传递;车载以太网则凭借高带宽优势,成为多屏高清视频与OTA升级的核心通道;V2X车路协同技术进一步将座舱与外界的实时信息互联。理解这些技术的分工协作,是掌握智能座舱架构、开展座舱测试与故障排查的关键。本文从实际测试经验出发,梳理不同总线在座舱内部及外部的应用逻辑,结合低成本的实验台架搭建指南,展示从信号采集、网关转发到多媒体流传输的完整链路

weixin_29284657的博客 344

RTC温度补偿:如何让时间分秒不差?

RTC(实时时钟)温度补偿技术通过"检测温度→计算误差→动态调整频率"的闭环机制,解决振荡器频率随温度变化导致的时间误差问题。核心步骤包括:1)高精度温度检测;2)基于温度-频率误差模型计算偏差;3)通过硬件(可编程电容/DAC)或软件方式调整振荡频率。该技术需突破温度检测精度、误差模型拟合、频率调整分辨率等关键点,根据不同应用场景(消费电子±5ppm至军工±0.1ppm)选择匹配方案。典型实现如STM32的分段线性补偿算法,可将工业级RTC精度提升至±2ppm以内。

上市公司前技术负责人,20 年软硬件深耕 + 百人研发团队管理经验,名校理工科背景加持。从技术攻坚到团队掌舵,沉淀海量项目实战与管理心得,专注分享软硬件干货、疑难问题解决方案,既是靠谱知识传播者,也盼链接优质项目共成长。 1229

GitNexus 核心引擎深度解析

GitNexus 核心引擎深度解析:GitNexus 是一个将代码库转换为可查询知识图谱的系统,由索引流水线、社区检测和混合搜索三大子系统组成。索引流水线通过9个阶段将代码转换为知识图谱,支持多语言解析和并行处理。社区检测采用Leiden算法进行功能聚类,流程追踪则通过BFS算法从入口点生成执行流程。混合搜索结合关键词和语义搜索,使用RRF算法融合结果。系统优化包括Worker池并行解析、语言感知导入解析、调用关系置信度计算等,实现了高效的代码分析与搜索能力。

2842

Unity3D实现视频和模型融合效果

在Unity中,视频和3D模型融合通常涉及到将视频表面内嵌到3D场景中。视频不影响模型的展示, 这可以通过使用Shader和Texture来实现。大家好,我是心疼你的一切,不定时更新Unity开发技巧,觉得有用记得一键三连哦。下面就让我们进入正文吧!提示:以下是本篇文章正文内容,下面案例可供参考本次介绍的就是视频和模型融合的实现,以后有其他的需要添加的会继续添加不定时更新Unity开发技巧,觉得有用记得一键三连哦。么么哒。

心疼你的一切博客 5358
上一篇: 面试官:随着大模型上下文不断增加,RAG 会消失吗?
下一篇: 淘天二面追问:Agentic RAG和普通RAG差在哪?不是加个智能体那么简单
Python_金钱豹
博客等级 码龄5年 1万+粉丝 2840原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值