大模型Agent智能体:LLM Agent之再谈RAG的召回多样性优化

大模型学习路线(3)——知识检索增强(RAG) 上图为LLM+RAG运行的整体流程。如果想对RAG有系统化的理论认知,基本看如下三篇技术概览足矣,其它不再多做赘述了,毕竟没必要重复造轮子(bushi。章节一的三篇技术概览了RAG理论部分,从RAG整体流程介绍,到RAG流程涉及每一步骤的细节详解、常用技术,再到总结、当下发展、未来展望。章节二为进阶部分,介绍了RAG的关键技术。章节三介绍了RAG的实践,RAG之前跑的demo忘保存了,找时间补回来,留个坑位先......(饼先搁这画上了)。RAG内容为LLM岗重点考察内容,涉及知识点多的嘞!!! 阅读详情

几个月前我们就聊过RAG的经典方案。前几天刚看完openAI在DevDay闭门会议上介绍的RAG相关的经验,有些新的感悟,借此机会再梳理下RAG相关的优化方案。

RAG最关键的一环其实不是LLM而是相关内容的召回,作为大模型推理的上文,优秀的内容召回应该满足以下条件:

  • 多样性和召回率:召回的内容要可以回答问题,并且内容丰富度,包括同一问题多个观点,多角度
  • 相关性和准确率:召回内容和问题相关,总不能召回100篇里面只有2篇和问题有关
  • 一致性和低冲突:召回内容间的观点一致性较高
  • 更高要求:高时效性,权威性,观点完整性,内容重复度低

这里不妨借鉴前人经验,参考搜索的主流框架:Query理解和扩展 -> 多路召回 -> 合并排序 -> 重排和打散。过去几个月RAG的论文也像是把传统搜索的方案,使用LLM轮番做了一遍范式更新。本章我们先围绕召回内容的多样性唠上两句。

直接使用用户Query进行向量检索,召回率往往不高,原因有以下几个

  • query较短,本身信息有限
  • 短文本的embedding效果较差
  • query短文本向量和document长文本向量存在空间表征差异
  • 用户对自己想问的内容比较模糊
  • 用户的query提问可能需要多个方向的信息聚合才能回答

以上问题其实覆盖了两个点:Query本身包含信息的多样性,搜索索引的多样性。下面我们结合新老论文,以及langchain新增的一些功能,来分别介绍~

1. Query多样性

  • 2019 Query Expansion Techniques for Information Retrieval: a Survey

传统搜索Query的扩展,有基于用户搜索日志挖掘的相似Query,有基于相同召回文档关联的相似Query,也有基于SMT的Query改写方案。那和大模型时代更搭配的自然是改写方案,LLM的加持很大程度上降低了Query改写的难度,也为改写提供了更多的可能性。

1.1 相似语义改写

  • Learning to Rewrite Queries,雅虎(2016)
  • webcpm: Interactive Web Search for Chinese Long-form Question Answering,清华(2023)

比较早在16年yahoo就探索过query改写的方案,那时还是个seq2seq的LSTM。再就是之前介绍的webcpm也有使用大模型进行query改写来提高内容召回。近期langchain也集成了MultiQueryRetriever的类似功能。逻辑就是把用户的Query改写成多个语义相近的Query,使用多个Query一起进行召回,如下

在这里插入图片描述

1.2 双向改写

  • Query2doc: Query Expansion with Large Language Models,微软(2023)
  • Query Expansion by Prompting Large Language Models, 谷歌(2023)

除此之外还有一种另类Query的改写方案,就是Query2doc中提到的把Query改写成document。论文使用4-shot prompt让LLM先基于query生成一个pseudo-document,然后使用生成的答案来进行相关内容的召回。这种改写方案确实有一些显著的优点

  • 缓解短文本query向量化效果较差的问题
  • 缓解document长文本向量和query短文本向量存在空间差异的问题
  • 提高BM25等离散索引抽取的效果,毕竟文本长了更容易抽出有效关键词

当然缺点也很显著,一个是pseudo-docuemnt可能发生语义漂移,幻觉回答会引入错误的关键词降低召回的准确率,以及解码的耗时较长~

在这里插入图片描述

这里Query2Doc反过来写,Doc2Query也是另外一个优化方向,就是给每篇文档都生成N个关联Query(pseudo-query),使用关联Query的embedding向量来表征文档,和真实Query进行相似度计算。langchain的MultiVector Retriever也集成了类似的功能。

谷歌也做了类似的尝试。分别对比了Query2Doc(Q2D), Query2Keyword(Q2E), Query2COT几种改写方案,以及使用zero-shot,few-shot,召回文档增强等不同prompt指令的效果。其中Query2Doc采用了和上面微软相同的prompt指令,其他指令如下

在这里插入图片描述

结果显示,当模型规模足够大之后,Query2COT展现出了显著更优的效果。甚至超越了在上文中加入相关文档的COT/PRF 方案。一方面COT会对Query进行多步拆解,一方面思考的过程会产生更有效的关键词,以及不使用相关文档可以更有效的释放模型本身的知识召回能力和创造力。

在这里插入图片描述

1.3 强化学习改写

  • ASK THE RIGHT QUESTIONS: ACTIVE QUESTION REFORMULATION WITH REINFORCEMENT LEARNING,谷歌(2018)
  • Query Rewriting for Retrieval-Augmented Large Language Models,微软(2023)

以上的改写方案在openai的闭门会都有提到,确实一定程度上可以提升RAG的效果,可以用于初期的尝试。不过这种改写是无监督的,也就是基于相似语义进行改写,并不能保证改写后的query搜索效果一定更好。那我们不妨引入一个目标来定向优化改写效果。

2018年谷歌就曾尝试使用强化学习来优化改写模型,把搜索系统视作Environment,seq2seq模型生成多个Query的改写候选作为Action。把原始Query的召回内容,和改写Query的召回内容,一起送入后面的排序模块,使用排序模块TopK内容中改写Query召回内容的召回率作为Reward打分,来梯度更新改写模型,最大化改写召回率。毕竟不论你改写的多么花里胡哨,能有效提高内容召回,拥有更高的独占召回率才是真正有用的改写模型。

而在大模型时代,改写模块被升级为LLM。在微软提出的rewrite-retrieve-read框架中,使用大模型作为rewriter,Bing搜索作为Retriever,chatgpt作为Reader,在QA任务上,尝试使用PPO微调改写模型,Reward模型的目标是不同改写query召回后推理内容和真实答案的Exact Match和F1。不过真实场景中,这种有标准答案的QA问答其实占比很小,更多都是开放式问答。那么其实可以类比以上的传统方案,使用大模型推理的引用率,作为Reward目标。毕竟大模型选择哪几条输入的上文进行推理,和精排原理其实是相似的。

在这里插入图片描述

2. 索引扩展

简单说完query扩展,我们再来看下索引扩展。当前多数RAG得召回索引还是以单一的Embedding向量模型为主,但单一向量作为召回索引有以下几个常见问题

  • 文本的相似有不同类型:有语义相似,有语法结构相似,有实体关键词相似,单一维度无法区分etc
  • 文本的相似有不同粒度:有些场景下需要召回精准匹配的内容,有些则需要模糊匹配,多数向量模型的区分度有限
  • 不同领域相似定义不同:在垂直领域存在向量模型适配度较低的问题
  • 长短文本间的相似问题:长短文本向量可能不在一个向量空间

下面我们看下还有哪些索引类型可以作为单一向量的补充

2.1 离散索引扩展

  • Query Expansion by Prompting Large Language Models, 谷歌(2023)
  • ChatLaw: Open-Source Legal Large Language Model with Integrated External Knowledge Bases

传统搜索中往往会使用到大量的离散索引,在很多垂直领域的内容召回中往往和向量召回有很好的互补效果,部分离散索引例如实体的召回准确率可能会显著高于向量召回。一些常见的Query理解生成离散索引的方案包括:

  • 抽取: 分词,新词ngram识别,词性识别,实体抽取,关键词抽取etc
  • 分类:意图分类,话题分类,概念分类,地点分类etc
  • 多跳:实体链接,同义词扩展,KG查询etc

最先想到使用大模型来进行范式改良的方向,大家都不约而同把目光放在了关键词扩展。

虽然在上面谷歌的论文中尝试query2Keyword的效果并没有超越query2Doc和Query2COT。但是关键词生成本身低耗时,以及在一些垂直领域其实有很好的效果。例如ChatLaw一个法律领域的大模型,就是用了LLM进行法律条文的关键词联想。论文使用LLM针对用户Query生成法律相关联想关键词,并使用关键词的Ensemble Embedding来召回对应的法律条款。当然也可以使用关键词直接进行召回。这种设计其实是针对在法律领域,领域关键词往往有显著更好的召回效果而设计的。

在这里插入图片描述

2.2 连续索引扩展

向量索引的扩展,最先想到的就是同时使用多种不同的连续向量索引,包括

  1. 朴素模式:不同的Embedding模型,常见的就是OpenAI的Ada,智源的BGE,还有Text2vec系列,使用多路embedding模型同时召回,或者加权召回的方案,取长补短。
  2. 简单模式:使用以上抽取的关键词,使用词向量加权进行召回。相比文本向量,词向量的召回率往往更高,在一些垂直领域有很好的效果。当然反过来就是词向量可能准确率偏低,不过召回阶段本来就是广撒网多敛鱼
  3. Hard模式:训练领域Embedding。成本最高,可以放在最后面尝试,在openai devday上提及的观点也是领域模型对比通用模型提升有限,且成本较高

不过微软近期提出了一个相比微调领域embedding模型更加轻量化的方案,和lora微调的思路类似,咱不动基座模型,但是在上面微调一个adapter来定向优化query和document的匹配效果。

在这里插入图片描述

向量变化的adapter,论文使用了向量加法,就是在原始模型输出的D维embedding的基础上加一个residual,residual的计算是一个Key-Value lookup函数,包含两个相同shape的变量K和v。例如针对openai的向量输出是D =1536维,residual会选用h<<D来进行变换,h的取值在16~128,则K和V都分别是h*D维的矩阵,也就是adapter部分只需要梯度更新2hD量级的参数,如下

score(query,content)=argmaxSim(Tr(Embedding(query)),Embedding(content))Tr(embedding)=embedding+f(embedding,θ)f(emb,K,V)=softmax(emb⋅KT)V(1)(2)(3)(1)score(query,content)=argmaxSim(Tr(Embedding(query)),Embedding(content))(2)Tr(embedding)=embedding+f(embedding,θ)(3)f(emb,K,V)=softmax(emb⋅KT)V

微调损失函数使用了对比学习的GlobalNegative Loss,也就是每个(query,content)pair是正样本,其余样本内所有content均是负样本,学习目标是query和正样本的相似度>和其余所有负样本相似度的最大值。看起来似乎是很轻量的方案,有机会准备去试一下~

在这里插入图片描述

在这里插入图片描述

2.3 混合索引召回

把BM25等离散索引召回和Embedding向量等连续索引召回进行混合召回,langchain的Ensemble Retriever集成了这个功能。不过混合召回最大的问题是不同召回的打分较难进行排序。

如何系统的去学习大模型LLM ?

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

事实上,抢你饭碗的不是AI,而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后,很多中小企业也陆续进场!超高年薪,挖掘AI大模型人才! 如今大厂老板们,也更倾向于会AI的人,普通程序员,还有应对的机会吗?

与其焦虑……

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高。

针对所有自学遇到困难的同学们,我帮大家系统梳理大模型学习脉络,将这份 LLM大模型资料 分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程(LLaLA/Meta/chatglm/chatgpt)

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1:AI大模型时代的基础理解

  • 目标:了解AI大模型的基本概念、发展历程和核心原理。

  • 内容:

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2:AI大模型API应用开发工程

  • 目标:掌握AI大模型API的使用和开发,以及相关的编程技能。

  • 内容:

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3:AI大模型应用架构实践

  • 目标:深入理解AI大模型的应用架构,并能够进行私有化部署。

  • 内容:

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4:AI大模型私有化部署

  • 目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。

  • 内容:

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

​

LLM生态全景解析:从RAG、微调到智能体的应用架构与实践路径 大语言模型(LLM)作为当前人工智能领域的核心技术,其价值不仅在于模型本身的推理能力,更在于如何将其融入实际业务系统。理解LLM的工作原理是基础,它通过海量数据训练获得语言理解和生成能力。在工程实践中,开发者面临的核心挑战是如何让模型可靠、高效、低成本地服务于具体场景。检索增强生成(RAG)和模型微调是解决模型知识局限与定制化需求的两大关键技术范式。RAG通过外部知识库检索为模型提供实时、准确的上下文信息,有效缓解幻觉问题;微调则通过参数调整让模型深度适配特定任务与领域。在此基础上,智能体(Agent)技术 阅读详情

相关推荐

从RAG到Agent:手把手构建企业级AI知识库与智能体

在人工智能应用开发领域,检索增强生成(RAG)技术通过结合外部知识源与大语言模型,有效解决了模型知识滞后和幻觉问题。其核心原理是将用户查询与向量化存储的私有文档进行相似度匹配,检索出最相关的上下文片段,再交由大模型生成准确、可追溯的答案。这项技术的价值在于为企业提供了低成本、高效率的知识管理方案,特别适用于构建内部知识库、智能客服等场景。在此基础上,智能体(Agent)框架通过赋予大模型工具调用和任务规划能力,使其从被动问答升级为主动执行者,能够处理多步骤复杂任务。本文以RAG和Agent为核心,结合Lan

cqbh2011的博客 439

RAG多路召回

是指在信息检索系统中,为了提升检索的全面性和准确性,通过多条不同的检索路径或不同的检索策略来获取信息的技术。多路召回的核心思想是,单一的检索路径可能会遗漏一些重要的信息或没有覆盖所有可能相关的内容,因此需要并行或串行地采用多种检索方法来提高最终的召回率和准确性。多路召回通过多个检索策略和模型的并行运行,能够提升信息检索的多样性和精准度。模型中,多路召回通常用于增强检索阶段的多样性和精准度。通过结合不同的召回策略,系统能够在多个来源或角度中获取信息,从而改善生成模型的输入质量和最终生成的答案。

pumpkin84514的博客 4789

企业级大模型应用实战:基于LangChain构建RAG与Agent系统

大语言模型(LLM)在直接集成到业务系统时,常面临上下文长度限制、知识滞后和缺乏行动能力等挑战。为解决这些问题,检索增强生成(RAG)技术应运而生,它通过将外部知识库向量化并与LLM结合,为模型注入最新、最专业的领域知识,有效缓解“幻觉”问题,提升问答的准确性。在此基础上,智能体(Agent)技术进一步扩展了模型的能力边界,使其能够自主规划、调用工具并执行复杂任务,实现从“知识问答”到“行动执行”的跨越。这些技术共同构成了企业级智能应用的核心架构,广泛应用于智能客服、知识管理、自动化流程等场景。本文将以La

weixin_30667649的博客 418

Rag应用——多路召回检索

这里用的是JupyterLab工具,原因是需要GPU加载模型运行可以去云服务器。

2203_75455572的博客 2859

LLM与RAG面试指南:从Transformer原理到Agent工程实践

Transformer架构及其核心的自注意力机制,通过并行计算和长距离依赖建模,奠定了现代大语言模型的基础。其技术价值在于高效处理序列数据,催生了ChatGPT等突破性应用。在实际工程中,为了平衡效果与效率,衍生出MHA、MQA、GQA等注意力变体,并需结合位置编码、解码策略进行优化。这些技术共同支撑了RAG和Agent等核心应用场景。RAG技术通过结合检索与生成,为大模型提供了实时、可信的外部知识源,有效缓解了幻觉问题,是当前企业级AI应用落地的关键技术。在构建RAG系统时,需重点关注文本切分、混合检索(

weixin_30617737的博客 379

AI×Agent×Data学习路线与面试攻略:从大模型到RAG实战

在人工智能技术快速演进的今天,大模型、智能体与数据工程不再是孤立的领域,而是构成完整技术链路的核心要素。大模型提供了理解与生成的引擎,智能体赋予模型感知与行动的能力,而高质量的数据则是驱动这一切的燃料。从Transformer原理到Prompt工程,从函数调用到ReAct模式,从向量检索到RAG流水线,每一层技术都环环相扣。企业落地AI应用时,往往需要将数据接入、模型推理与智能决策整合为一体化方案,这也使得掌握AI、Agent与Data融合能力的开发者成为稀缺人才。无论是构建知识库问答系统,还是开发多智能体

weixin_33836874的博客 448

大模型 RAG + 智能体(Agent)题集指南

答题思路:RAG 全称检索增强生成(Retrieval-Augmented Generation),核心逻辑是「先检索后生成」:用户提问后先从外部私有知识库中召回相关的文档片段,再把问题 + 上下文一起喂给大模型,让大模型基于检索到的事实生成答案。它针对性解决大模型三个原生痛点:①知识时效性差,大模型训练数据有截止日期,最新业务知识、内部制度无法覆盖;②幻觉问题,大模型会编造不存在的事实,RAG 让答案有文档依据,可溯源;

weixin_43888491的博客 497

大模型应用开发实战:从RAG到Agent,7天掌握AI应用构建全流程

大语言模型(LLM)作为当前人工智能的核心技术,正从通用对话向解决特定领域问题演进。其核心原理在于通过检索增强生成(RAG)和智能体(Agent)两大范式,为模型赋予实时知识获取与自主行动能力。RAG通过“先检索,后生成”的机制,将外部知识库与模型生成相结合,有效解决了知识滞后与幻觉问题,是构建企业级知识问答系统的关键技术。Agent则通过“思考-行动-观察”的循环,使模型能够调用外部工具,完成复杂任务序列,实现了从“思考者”到“行动者”的跨越。这些技术的工程价值在于,它们能将前沿的AI能力低成本、高效率地

weixin_30819085的博客 357

RAG(一):Agentic RAG、AUTO-RAG、ChunkRAG、FastRAG、Graph RAG、HtmlRAG

概述、Agentic RAG:类型、实现、其他;AUTO-RAG、ChunkRAG、FastRAG:架构、Graph RAG、HtmlRAG。

lonelymanontheway的博客 1339

从零构建企业级RAG与Agent系统:LangChain实战指南

检索增强生成(RAG)是一种通过外部知识源检索信息,并以此增强大语言模型生成能力的技术架构,它有效解决了模型记忆有限和知识更新滞后的问题。其核心原理是将用户查询向量化,在向量数据库中进行相似性检索,并将检索到的相关上下文注入提示词,从而生成更准确、可溯源的答案。这项技术的价值在于以较低成本让大模型掌握私有、最新的领域知识,广泛应用于智能客服、知识库问答和企业文档分析等场景。智能体(Agent)则在此基础上更进一步,赋予大模型规划、决策和调用工具的能力,使其能从单纯的“答题者”转变为能执行复杂工作流的“执行者

weixin_33859844的博客 296

LLM - 使用 RAG (检索增强生成) 多路召回 实现 精准知识问答 教程

RAG (Retrieval-Augmented Generation,检索增强生成) 的多路召回,包括向量召回和本文召回,可用于精准知识问答,减轻大模型的幻觉问题。并行:同时使用文本召回和向量召回,合计获得 TopN 个样本,再使用重排序的方式,获得 TopK 个样本,作为最终的召回文本。串行:优先使用文本召回,召回 TopN 个样本,再使用向量排序,获得 TopK 个样本,作为最终的召回样本。

AGI 3512

一文带你了解大模型RAG

简单来说,大模型RAG,即Retrieval-Augmented Generation,是一种结合了检索和生成能力的预训练语言模型。它由两部分组成:一个检索系统和一个生成模型。由上,可以简单总结RAG实现过程。应用侧:需求——知识库检索——结果召回——LLM 提示词、Agent等有关开发——LLM结合需求+知识库检索结果进行回答——结束实现侧:文档上传——文本分段和清洗——嵌入模型选型、文本嵌入——重排模型选型、召回参数配置——召回测试——知识库应用集成。

2236

改进召回(Retrieval)和引入重排(Reranking)提升RAG架构下的LLM应用效果

RAG架构来自于实际问题,而很多问题都是相似的,在效果优化层面,我们可以借鉴一些推荐系统等传统AI系统的优化经验,将其迁移过来,这对于改进RAG效果有很大的帮助,在后面的文章里,还将继续介绍具体场景的一些使用问题,欢迎关注。

具身机器人和通用AI 1万+

预算受限下的智能体搜索:从混合召回到LLM路由的工程实践

搜索引擎正从链接列表向直接答案演进,智能体搜索通过结合大模型推理与检索技术,能为用户提供更精准的答案,但高额的计算成本往往让落地受阻。如何平衡效果与预算成为关键技术挑战。本文从成本构成出发,引入分层漏斗式架构,讲解缓存、混合检索、RRF融合、置信度判断、LLM路由等核心环节的设计逻辑,并给出一个可运行的轻量级检索系统示例。无论你在构建RAG应用还是优化垂直搜索体验,这套方案都能帮助你在有限的token和计算资源下,实现智能体搜索的高效落地,把每一分预算花在刀刃上。

weixin_34268310的博客 372

超详细版!Obsidian+Claude+Skills+云同步,打造智能 AI 知识库

本文介绍如何搭建高效的AI知识管理系统,将Obsidian笔记工具与ClaudeAI助手深度整合。通过ClaudeCode安装配置、ObsidianSkills插件添加和坚果云同步设置,实现本地存储安全性与云端便捷性的完美结合。该系统支持智能笔记整理、知识图谱可视化、智能搜索问答和内容创作辅助等功能,使静态笔记转变为能自动分析关联、处理复杂结构的"活"知识库。详细步骤包括工具准备、环境配置、插件安装和云同步设置

2301_79998006的博客 1080

告别代码恐惧!用KRobot图形化编程,10分钟搞定Arduino巡线小车(附完整接线图)

本文介绍如何使用KRobot图形化编程工具快速搭建Arduino巡线小车,无需编写代码。从硬件准备到逻辑构建,详细讲解传感器数据处理、电机控制优化及高级功能扩展,帮助教育工作者和创客爱好者10分钟内完成项目。

weixin_30632089的博客 395

大模型 / RAG / Agent 面试高频题

大模型应用开发RAGAgentAI CodingLLM 工程化大模型微调算法 / NLP / 推荐等相关岗位(这里主要是介绍自己的项目,这里就不给出标准答案了)项目背景:为什么要做这个项目技术方案:用了 RAG、Agent、微调还是纯 prompt技术链路:数据怎么进来,模型怎么处理,结果怎么出去核心难点:不要说“工作量大”,要说技术难点指标结果:准确率、召回率、延迟、成本、人工节省等个人贡献:明确说“我负责什么”,不要只说“我们团队做了什么”

weixin_44151034的博客 971

树莓派与无人机协同实战:基于OpenCV的地标识别优化策略

本文深入探讨了基于树莓派与无人机的协同系统,重点分享了利用OpenCV优化地标识别以实现精准降落的实战策略。内容涵盖从应对复杂光照的图像预处理、鲁棒的轮廓几何过滤,到通过ROS进行稳定通信,以及实现分层控制与状态机设计,旨在提升系统在真实环境中的可靠性与性能。

y2z3a4b5c的博客 1086

大模型应用开发实战:从RAG与Agent核心范式到Coze、Cursor工具实践

大模型应用开发的核心在于掌握连接与编排能力,而非死记硬背模型原理。其本质是提示工程、外部能力集成与工作流编排的综合工程实践。通过理解检索增强生成(RAG)和智能体(Agent)两大核心范式,开发者可以构建能够利用外部知识库和调用工具解决复杂任务的智能应用。RAG通过向量检索技术为模型提供实时、准确的私有知识,有效应对知识过时与幻觉问题;Agent则赋予模型规划与执行能力,使其能够调用外部工具完成多步骤任务。这些技术为构建行业分析助手、智能问答系统等场景提供了强大支持。本文聚焦实战,将引导你使用Coze平台零

weixin_34378969的博客 377

DIY天文摄影:如何用NMP溶剂安全去除佳能CMOS传感器的拜耳滤镜(附详细步骤)

本文为天文摄影爱好者提供了一份详尽的DIY指南,介绍如何使用NMP溶剂安全去除佳能CMOS传感器的拜耳滤镜,将其改造为高灵敏度单色相机。文章深入剖析了NMP溶剂的作用原理与关键风险,并系统性地拆解了从材料准备、分步操作到后期验证的完整实践流程,旨在帮助具备动手能力的爱好者实现深空天体摄影的进阶目标。

w3x4y的博客 308

Far planner代码系列(2)

graph_decoder系列(2) 承接上文 我们接着来看decoder_node.cpp的代码部分 void GraphDecoder::Init() { /* initialize subscriber and publisher */ //graph_sub_ 订阅节点/robot_vgraph 其类型是visibility_graph_msg/Graph的消息 graph_sub_ = nh.subscribe("/robot_vgrap...

博客 1534

多智能体RAG系统:基于经验进化的动态编排与提示词优化

检索增强生成(RAG)技术通过结合检索系统与大型语言模型,有效提升了生成内容的准确性与事实性。其核心原理在于利用外部知识库进行实时信息检索,为LLM提供上下文,从而减少幻觉并增强可信度。这一技术在智能问答、文档分析和研究助手等场景中展现出巨大价值。然而,传统静态RAG管道在面对复杂、多步骤任务时,常因僵化的流程而表现不佳。本文聚焦于通过多智能体架构与动态进化机制解决这一问题,其中智能体编排(Orchestration)和提示词(Agent Prompts)会根据任务反馈持续优化,形成可自我改进的“经验罗盘”

weixin_33695082的博客 337

十一、Cadence ic 617以及assura使用总结

1.617的端口和514不同,没有网络属性,使用时不能直接放在原理图上,如果要直接放在图上要接线并且放上标签。2.617的端口也不能直接放在线上,514中将端口直接放在线上是可以使端口和线连接,但617看似连接,但拉出来线没有交点,实际上没有连接。这里set switches里的选项表示不同的模块,也就是选择一个就只对这一部分进行DRC验证,要验证整个版图的DRC就要把所有的选项选中,然后一个个改正。LVS中也是一样,要全部选中改正。

0 2295

增强版智能知识库:从朴素RAG到Agent循环的检索优化实践

检索增强生成(RAG)技术通过向量检索与生成模型结合,解决大模型知识更新与幻觉问题。其核心原理是将文档向量化,基于语义相似度召回上下文,再交由LLM生成答案。然而,朴素RAG常因单路检索和缺乏意图理解导致召回不全。增强版方案引入查询改写、HyDE、多路召回与MMR重排,并利用Agent循环进行充分性评估,显著提升答案完整性与准确性。该技术适用于企业知识库、智能客服等场景,实现从“能查”到“会想”的进化。本文分享基于LangChain与FAISS的落地经验与调参细节。

weixin_29054195的博客 292

RK3588S之CPU--benchmark(一)

本章会基于RK3588S来介绍有关CPU常用的benchmark工具及测试过程

文艺小少年的博客 1499

Python 3.13.7 (64-bit)安装弹窗提示:Setup failed:0x80070643 - 安装时发生严重错误...如何解决?

🏆本文收录于 《全栈Bug调优(实战版)》 专栏,该专栏专注于分享我在真实项目开发中遇到的各类疑难Bug及其深层成因,并系统提供高效、可复现的解决思路和实操方案。无论你是刚入行的新手开发者,还是拥有多年项目经验的资深工程师,本专栏都将为你提供一条系统化、高质量的问题排查与优化路径,助力你加速成长,攻克技术壁垒,迈向技术价值最大化与职业发展的更高峰🚀!

**My Coding Family** 2117
上一篇: 吴恩达大模型入门 LLM CookBook 汉化版教程发布(附PDF)
下一篇: 大模型RAG技术:面向大语言模型的检索增强生成(RAG)技术:综述
Llama-Turbo
博客等级 码龄4年 9901粉丝 2022原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值