RAG 技术真的“烂大街”了吗?

如何优化本地部署的 RAGFlow(提高准确率 & 响应速度) 的重要性,可以结合 BM25 / TF-IDF。如果检索 & LLM 生成速度慢,可以使用。本地部署的 RAGFlow 可能会遇到。如果 LLM 响应慢,可以使用。默认的向量检索可能会忽略。 阅读详情

大语言模型技术迅猛发展的脚步,正引领着信息检索技术进入一个新的纪元。在这一领域中, RAG 技术将传统信息检索技术与大语言模型技术相结合,为知识理解、知识获取提供了全新的解决方案。然而,尽管 RAG 在很多任务上表现出色,其在深度应用上仍面临诸多挑战。

在日前的 InfoQ 《极客有约》X AICon 直播中,我们邀请到了阿里巴巴总监 & TGO 鲲鹏会学员郭瑞杰、 阿里云高级算法专家欧明栋 、英飞流 CEO 张颖峰、合合信息研发总监常扬 ,深入探讨 RAG 技术的当前进展、面临的挑战、未来的发展方向以及在不同行业中的应用潜力。

部分精彩观点如下:

  • 数据杂乱、用户意图明确时的低命中率,以及用户意图不明确时的语义 gap,是阻碍 RAG 技术走向更多企业、让企业愿意为之付费的主要瓶颈;
  • 解决掉 RAG 最基础、最本质的问题,是出现爆款产品的基础;
  • 长上下文模型和 RAG 之间不应是冲突关系,而应是合作关系;
  • 如果“烂大街”代表 RAG 技术理解和使用门槛降低,这是一件好事;
  • RAG 加 Agent 的本质是复杂问题的分治。

在 8 月 18-19 日将于上海举办的 AICon 全球人工智能开发与应用大会上,郭瑞杰老师将出品【RAG 落地应用与探索】 专题,深入探讨 RAG 的最新进展、成果和实践案例,详细分析面向 RAG 的信息检索的创新方法,包括知识抽取、向量化、重排序、混合检索等在不同行业和场景下的微调和优化方法。而欧明栋、张颖峰、常扬老师也将在专题论坛上带来精彩分享。大会更多精彩议题已上线,点击链接可查看目前的专题安排:https://aicon.infoq.cn/2024/shanghai/track

以下内容基于直播速记整理,经过不改变原意的编辑。

RAG 应用现状、挑战和潜在影响

郭瑞杰: 我们进入今天第一个讨论的话题, RAG 技术在不同领域 / 不同场景的应用现状、挑战和潜在影响。 今天几位老师也是来自不同的领域不同场景,首先有请欧明栋老师分享下 RAG 在阿里云 AI 搜索实际应用场景中碰到的问题及尝试的解决方案。

欧明栋:我们是 AI 搜索 Paas 平台,也构建了端到端全链路 RAG 能力,面向各行各业的客户。这些客户主要来自互联网、医疗、电商和金融等多个领域,他们的应用场景相当多样化,包括客服、推荐、文案生成以及数据分析等需求。

在服务过程中,我们发现最大的挑战在于如何将服务真正落地到客户的生产环境中。这主要是因为技术问题,尤其是客户数据的多样性。客户的数据格式各不相同,包括 PDF、DOC、纯文本,甚至 PPT 等。即便是相同格式的数据,不同客户的排版也大相径庭。这导致文档解析的准确性受到影响,例如文档结构未能正确解析,或者文字、内容、表格等丢失,最终影响了问答效果。此外,某些行业对大语言模型的精度和错误率有较高要求,希望控制模型的幻觉问题,特别是在医疗和政务领域,因为错误可能导致严重后果。然而,大模型的幻觉问题本质上是一个难以控制的缺陷。

在实际使用中,许多用户的问题并非简单直接,而是需要经过多步推理和检索才能得到答案的复杂问题。例如,多跳问题、意图不清晰需要澄清的问题,以及答案在文档中跨度较大的问题。目前,这些问题在传统的 Web 框架下解决得并不理想。RAG 系统提供了一种比传统搜索更进一步的解决方案。与以往需要人机协同、根据机器反馈进行调整的搜索方式不同, RAG 系统能够直接基于问题给出准确答案,大大减少了人工工作量。我们期望 RAG 系统能够在后续应用中进一步提高能力。

张颖峰: 我们对 RAG 技术的认知大致相同,可以认为 RAG 的应用分为两个阶段。最初,大约是去年,是 RAG 技术的普及期。在这个阶段,业界对使用 RAG 还是微调存在争议。我们的主要任务是将 RAG 的各个组件以尽可能易用的方式,通过 Ops 手段快速整合,以便让更多企业和个人能够搭建起这个系统。LLMOps 工具在 RAG 的普及中起到了重要作用。然而,我们也遇到了一些痛点,尤其是大模型本身的瓶颈问题,去年大模型的能力差距较大,模型的幻觉问题非常突出。

第二个阶段,我认为是从今年开始,是 RAG 加速普及的时期。根据我们接触的多个行业和客户,企业普遍认识到 RAG 技术的必要性。但在实际应用中,痛点依然很多。很少有企业愿意为一套基于开源的 RAG 系统付费。这也是我们愿意开发新的 RAG 平台的主要原因,因为瓶颈问题很多。

我们总结的瓶颈主要有以下几点:

  • 第一,当前影响最大的是数据问题。杂乱无章的数据输入,如 PPT、Excel 表格、Word 文档、PDF 等,如果不合理处理,最终结果会非常糟糕。
  • 第二,问答质量也是一个痛点。如果用户意图明确,当前的 RAG 方案仍然无法提供高召回率或精度,即命中较低。企业通常需要 90% 以上的召回率才可能付费。
  • 第三,如果用户意图不明确, RAG 系统找到的相似问题,而不能直接作答,存在语义 gap,简单的检索方式无法找到答案。此外,长文档问答和多跳推理等问题也与此相关。

此外还有一些较小的瓶颈,比如幻觉问题。去年幻觉问题比较严重,但今年有所改善,因为大家对大模型的期待降低,不再指望它能回答高深的逻辑推理问题。我们更倾向于让模型回答总结性、摘要性的问题,这种情况下大模型的表现还可以。但许多 RAG 系统没有充分利用 RAG 的最大优势,即根据搜索结果生成有理有据的答案。如果模型没有生成引用,就无法提供有理有据的答案,这影响了用户体验。这个技术点相对较小,相比前面两点,对 RAG 技术的应用和推广影响不大。

目前我们面临的主要挑战包括数据杂乱、用户意图明确时的低命中率,以及用户意图不明确时的语义 gap,这些都是阻碍 RAG 技术走向更多企业、让企业愿意为之付费的主要瓶颈。

常扬: 从是否选择 RAG 的角度来看,我们首先需要从第一性原理出发,理解 RAG 的本质。RAG 通过利用外部数据源和文档知识,解决了大模型在偏见、幻觉、安全性以及实时性问题上的不足,满足了现实世界对数据的实时性、可追溯性、安全保护和隐私的需求。选择 RAG 与否,关键在于评估场景中是否存在对这些需求的刚需。例如, RAG 在解决数据实时性和可追溯性问题方面表现出色,特别是在精准问答领域。此外, RAG 也在推荐系统和信息抽取任务中表现优异。我们开发的开放域信息抽取产品,能够从任意文档中抽取信息,改变了以往需要为每种文档定制模型的情况,这不仅是技术上的革新,也解决了数据文档的实时性和可追溯性问题。

另一个视角是针对对幻觉问题要求严格的场景,如医疗行业, RAG 在药物研发和市场准入方面有很好的应用。在金融分析领域,由于市场信息每天都在变化,筛选有效信息并保证信息来源的可靠性至关重要, RAG 技术在这里同样适用。以及如投资分析场景,合合开发了分析师问答产品,专门针对财报、研报、公告等高信息密度、高实时性的知识库进行问答,满足分析师的需求。

我认为,RAG 能否解决问题的关键在于场景是否对 RAG 的能力有刚需。 如果刚需存在,这些场景的应用将会快速发展。对于非刚需的应用,我们可能需要考虑其他技术解决方案,如微调或选择具有超长上下文的大模型。

在挑战方面,互联网产品的思维可以用七个字概括:专注、极致、口碑、快。虽然 RAG 技术自 2020 年提出以来发展迅速,但许多产品并没有做到专注,技术效果也没有达到极致,导致口碑没有形成,产品未能通过 PMF 验证,难以进入市场。知识问答类产品可能一周就能做出演示版,但要达到好用的程度可能需要半年时间。现有的 RAG 基础流程存在许多需要优化的问题,包括检索文档内容解析错误、边缘案例处理不当、解析速度慢、知识库更新耗时长、机械分块丢失语义信息、目标检索内容召回不全、召回结果排序困难、答案生成存在遗漏等。

在今年 8 月 18-19 日的 AICon 上海站,我将分享 《向量化与文档解析技术加速大模型 RAG 应用落地》 主题,解决 RAG 最基础也是最本质的问题是出现爆款产品的基础。例如,文档数据中多种版式的精准解析,速度要快,精度要高。这些技术问题虽然讨论较少,但实际上非常重要。此外,如何在小资源下实现高性能和高精准度的 embedding 嵌入模型,也是目前面临的主要挑战。

RAG 真的“烂大街”了吗?

郭瑞杰: 感谢常扬老师及前面两位老师的分享, RAG 技术在不同行业和场景下的应用仍在探索阶段,许多潜在的应用和优化尚未实现。当然, RAG 技术的发展和应用正在不断演进,随着技术的成熟和优化,预计 RAG 将在更多场景下发挥关键作用。接下来,我们进入今天的第二个话题。如何提高公众对 RAG 技术的认识和理解?在很多同学的认知里, RAG 技术似乎已经“烂大街”了?关于这个问题,大家怎么看?

张颖峰: RAG 技术在实际使用中确实存在一些挑战。虽然部署起来相对容易,但实际效果往往并不理想。然而,我认为 RAG 技术本质上是一种普及性的架构,而非特定于某个场景的解决方案。它是大模型服务 B 端市场的一种方式,因此我们不能因为短期内效果不佳就认为这项技术会被未来替代。

公众对 RAG 的认知一直存在较大争议。去年, RAG 刚开始流行时,业界围绕是否使用 RAG 还是微调展开了激烈讨论。经过大半年的辩论,公众对 RAG 有了更广泛的认识。现在,愿意选择微调的企业已经非常少, RAG 已经证明自己能够解决大模型针对企业内部私有数据的提问问题,不再需要进一步普及。

今年进入第二阶段,关于长上下文大模型的争论变得更加激烈。例如,阿里、Kimi、谷歌等公司的模型,上下文长度甚至可达百万,未来可能达到千万。今年二三月份,这种争论达到了高潮。当时,谷歌发布的一篇评测显示,长上下文在解决某些问题时比 RAG 表现得更好。这些问题是客观存在的,长上下文确实能更好地解决问题。在这种背景下,许多人认为 RAG 应该尽可能简化,不使用复杂的向量技术,而是用最基本的数据库和关键词搜索,然后利用长上下文的大模型来提供答案。这种方案在当前情况下是一种简单有效的解决方案,因为模型本身的上下文能力比 RAG 强。

但我认为争论仍将继续,因为长上下文模型和 RAG 之间不应是冲突关系,而应是合作关系。如果是个人端或简单场景,如个人知识库问答,使用长上下文模型确实方便。但一旦涉及企业级场景,如垂直行业,长上下文模型的适用性就会受到很大限制。长上下文模型并非无敌,例如,英伟达最近发表的一篇文章指出,如果给模型的上下文窗口太多,其回答质量会明显下降。因此, RAG 提供的精准段落对改进效果有显著提升。

RAG 和长上下文模型之间应该是相互配合的关系。在企业级应用场景中,如营销、合同合规、法律合规或供应链库存管理等,仅依靠长上下文模型是不够的。两者的配合对于解决实际问题至关重要。通过不断的辩论, RAG 的普及得到了极大的推动。今年二三月份,与 RAG 相关的文章在 arXiv 上的更新并不多,但现在更新频率明显提高,每天都有多篇相关文章发布。这表明 RAG 在工业界、产业界和学术界已经得到了共识。现在的讨论焦点是如何从技术角度解决 RAG 的痛点,而不是 RAG 是否还有存在的必要。

常扬: 我非常赞同张总提到的 RAG 技术已经获得广泛认知。例如,7 月份微软开源了与 Graph RAG 相关的项目,这也引发了很多讨论,学术界也在持续解决相关问题。我想从应用的角度补充几点看法。

首先,我们要实现“技术去魅”,即让 RAG 技术从最初的神秘和疑问,转变为开发者们讨论如何应用它。这需要让大家理解 RAG 技术的底层逻辑其实简单直接,而非复杂晦涩。RAG 技术的真正价值在于它能够实现更准确的回答和更快的搜索,本质上与搜索引擎相似。这意味着通过建立与用户之间的信任,提供快速的检索体验,并找到准确度与响应度之间的最佳平衡点。RAG 技术完全有能力替代传统搜索,因为它能提供比网页搜索更好的效果。

为了实现这一目标,我认为 RAG 技术的广泛应用需要通过打造爆款应用来推动。百度李彦宏在上海的世界人工智能大会上也提到了这一点,他希望大家不要仅仅局限于大模型的竞争,而是去创造一些爆款应用。周鸿祎在微博上也表示支持这一观点。实际上,这需要我们持续专注于技术,优化场景理解,做好产品,让产品既可用又好用,从而打造出能够深刻改变用户场景和认知的 RAG 产品。

其次,关于“烂大街”的问题,如果这代表降低 RAG 技术理解和使用的门槛,我认为这是一件好事。 我们应该坚持引用更多能力,迭代和优化 RAG 技术以增强效果,同时简化 RAG 技术的使用门槛,让更多开发者能够使用它。比如通过 InfoQ 举办的技术大会进行广泛传播,让更多人理解 RAG 是什么,能够在合适的场景中使用它。同时,“烂大街”也有另一层含义,即技术看起来很好,但实际使用效果不佳,需要进一步加工和调整。这是我们需要优化和避免的。我们要提升 RAG 在检索和生成每个细节环节的效果,确保技术不仅可用,而且越来越好用。

RAG 在很多基础流程上仍存在问题,有很大的优化空间。去年有篇澳大利亚学者的论文,提出了 RAG 的七宗罪,涉及数据源、检索、排名、生成等多个方面的问题,这也是我们这些从事相关工作的人员的研究方向。此外, RAG 技术与其他技术的结合,如与 Agent 的结合,以及与更多场景的结合,都有很大的发展潜力。总结来说,我认为 RAG 技术的关键还是要有爆款产品,而从事 RAG 技术的人的关键是解决其基本问题,让 RAG 技术在这些爆款产品中可用,满足用户的期望体验。

欧明栋: 关于长上下文是否会替代 RAG 的问题,我们进行了许多测试。测试结果表明,当长上下文的内容过长时,其效果会受到影响。此外,长上下文的响应速度也会显著下降。为了让人们更深入地了解和认识 RAG ,我认为需要有经验丰富的产品经理来设计一些易于使用的产品功能,这可能会激发大家对 RAG 更大的兴趣。

最近,无论是在技术论坛还是社交媒体上,我们经常看到有人批评 RAG 的技术含量低。传统的 RAG 是很容易上手,而且有像 LlamaIndex、LangChain 这样的框架,只需几行代码就能部署一个 RAG 系统。但从产业落地的角度来看, RAG 目前还不能完全满足需求。例如,我们采用的 Native RAG ,即搜索加上大模型总结的链路,实际上并不能很好地解决用户抽取信息和解决问题的场景。从 RAG 本身的目标来看,目前的 Native RAG 技术还远远达不到这个目标。正如刚才两位老师提到的,要实现这个目标,还有许多问题需要解决, RAG 领域还有很多技术需要我们去探索。

基于 Agent 的 RAG

如何解决复杂问题?

郭瑞杰: 虽然 RAG 技术可能被广泛讨论,但这并不意味着它已经普遍应用或失去了创新性。相反,这可能是技术发展和成熟过程中的一个自然阶段。接下来,我们来讨论今天的第三个话题。基于 Agent 的高级 RAG 如何针对复杂问题提供解决方案?

常扬: 在今年 8 月的 AICon 上海站上,很多演讲都涉及到了 Agent。由于今天没有投屏,我们讨论的更多是方向性的内容,届时在大会现场,各位老师的分享一定是内容丰富、干货满满的。

欧老师刚才提到,目前大家关注的是 Naive RAG ,而不是包含 Advanced 或 Modular 特性的 RAG 。现在的关注点确实是纯粹的问题检索,核心在于单轮检索的准确性和速度。 例如,企业可能需要迅速检索与公司相关的最新公关新闻及其应对策略。然而,在现实场景中,问题往往更复杂,企业希望结合他们的知识库解决项目中的问题,这些需求的复杂性往往无法通过单轮 RAG 来解决。

这就引出了基于 Agent 的高级 RAG 的问题。在真正的企业场景中,包含几个问题:用户的意图往往不明确,需要多轮对话来确认;需要从多个来源收集信息,包括文档数据库、知识库、外部 API 和搜索网页等;还需要多步推理才能得到综合答案。在这种场景下,就需要基于 Agent 的高级 RAG 。

以我们正在开发的分析师问答产品为例,我们调研了基金公司的需求。基金公司的领导需要对某个调研方向进行全面调研,这个需求给到分析师。分析师需要与领导进行多轮对话,了解具体需求,如技术可行性、产品市场占有率、市场分析、竞争对手调研等。这些信息需要从多个数据源获得,经过复杂检索和分析整合,最后按照用户要求的格式(如 PPT 或 PDF)完成需求。这种场景反映了真正的企业需求是非常细致的。

大家看到的或讨论的 Naive RAG 案例,实际上只是项目中的某个部分需求。为了实现这一点,系统必须能够处理和整合来自多元的多样化数据,并在每一步提供精准信息,最后根据用户意图准确回答。

我再谈谈 **RAG 加 Agent 的本质。我认为它的本质是复杂问题的分治。**Agent 的定义大家都很清楚,我想从另一个角度简单解读一下。Agent 通过将任务拆解为 Plan(对应多轮对话,理解用户意图和任务规划)、Do(使用外部工具完成任务)、Check(任务总结)、Action(记忆及任务经验改进后的执行),整个 Agent 对应了我们做项目的整套 PDCA 流程。融合 Agent 的 RAG 可以将原来的单轮对话调整为多轮对话,理解用户意图,拆解任务,使用更多工具解决非结构化、半结构化数据检索的问题。这种方式让 RAG 系统变得可定制、可扩展,可以根据具体任务调整使用工具完成复杂任务。以分析师问答场景为例, RAG 加 Agent 可以自动检索、分类和分析反馈,最终形成一个详细的报告来帮助企业决策。这样的场景本质上是将技术转化为企业可接受的项目价值,这是 Agent 的关键,它符合企业对复杂度的判断。

张颖峰: 我在这里稍微补充一些与我们最近发布的 RAG Flow 功能密切相关的内容。我们在周一晚上发布了新版本,其中包括了 Agent 功能。RAG 和 Agent 之间的关系是相互基础性的。关键的一点是,Agent 为 RAG 提供了基于有环图的编排能力。因为我们知道 RAG 的效果有待提升,所以我们需要用各种技术手段来补充,这种补充意味着我们不能只使用简单的单轮对话。我们需要将对话转化为多轮,引入查询意图、分类、关键词抽取等不同的算子,以编排的方式而不是单轮对话的方式,将对话组织在一起。Agent 的编排能力及其反思机制是其重要能力之一,即评估 RAG 生成和检索出来的质量,如果质量不高,则需要不断消耗 token 进行搜索,直到得到满意的答案。

如果将 Agent 视为 RAG 的基石,它主要起到的就是上述作用。为了解决前面提到的各种痛点,比如数据抽取、命中率不高、找不到答案等问题,我们都需要通过 Agent 或称为 Agentic 的 RAG 来编排,以解决这些问题。Agent 提供了这样一个框架和机制,我们在这个框架内不断添加各种算子,如查询意图、改写、关键词抽取、知识图谱抽取等,将这些不同的算子加入后, RAG 的质量就会得到提升。

反过来,当 RAG 能够以这种方式提供满意的答案后,Agent 就可以在 RAG 的基础上进一步包含企业所需的具体场景业务。例如,我们最近开源的产品中加入了 Agent,并提供了两个模板:一个是客服系统,它实际上是将 RAG 应用于垂直领域时所需的业务系统,需要用工作流的方式进行编排。工作流通常是有向无环图,而 Agentic RAG 引入高级 RAG 时,需要反思来编排查询意图、查询改写等。有了这些能力后,实现工作流就可以让 RAG 以 Agent 的方式对接企业的业务系统。另一个是通用模板,用户可以用来创建自己的工作流,如猎头寻找候选人并与他们沟通。当对话意图不明确或需要直接获取候选人的联系方式时,这实际上就是一种企业的业务工作流。因此, RAG 和 Agent 结合时,关键在于如何让 RAG 服务于具体的垂直场景。我认为 RAG 和 Agent 是互为基石的作用。

欧明栋: 基于 Agent 的 RAG 应用实际上是很自然的一步。从客户反馈来看,传统的单轮 RAG 无法解决很多问题。当前,许多研究正在探讨多跳问题和模糊意图问题,这类问题都需要 Agent 的参与。因此,开发 Agent 功能成为了一个自然的趋势。我们的 Agent 开发还没有达到完美的效果,但我愿意分享一些我们的实践、经验和教训。

目前,我们在开发的 Agent 是完全自主的。在之前的版本中,我们已经支持用户编排,而现在我们希望 Agent 能自主解决客户问题。我们设计的 Agent 分为两层:第一层 Agent 负责简单的路由,将任务分配给更大特定任务的 Agent 流水线,例如问答、总结、意图澄清,甚至包括自定义功能,如客服中直接转人工等。基本上,第一层 Agent 执行的是大的路由任务。第二层 Agent 则负责更细致的任务。以问答 Agent 为例,它是一个比较常规的自主 Agent,利用大模型的逻辑推理能力进行规划,然后调用工具。模型本身的规划能力非常关键,它需要判断问题回答的进度、缺失信息和补充需求。工具也很重要,可能需要进行问题改写、搜索、SQL 查询,或者使用 Code Interpreter 进行编程和计算,以提供更准确的答案。关于幻觉问题,许多论文提到通过 self- RAG critic 和 self-refine 等 进行自我检查可以减少幻觉。这里会有各种工具,包括客户自定义的工具。例如,金融客户可能需要非常专业的金融指标计算,这就需要明确定义的自定义工具应用。问答 Agent 主要依赖模型的规划能力和调用工具的能力。

目前,我们在开发的 Agent 是完全自主的。在之前的版本中,我们已经支持用户编排。我们设计的 Agent 分为两层:第一层 Agent 负责简单的路由,将任务分配给特定任务的 Agent 流水线,例如问答、总结、意图澄清,甚至包括自定义功能,如客服中直接转人工等。基本上,第一层 Agent 执行的是大的路由任务。第二层 Agent 则负责更细致的任务。以问答 Agent 为例,它是一个比较常规的自主 Agent,利用大模型的逻辑推理能力进行规划,然后调用工具。模型本身的规划能力非常关键,它需要判断问题回答的进度、缺失信息和补充需求。工具也很重要,可能需要进行问题改写、搜索、SQL 查询,或者使用 Code Interpreter 进行编程和计算,以提供更准确的答案。这里也会有各种工具,包括客户自定义的工具。例如,金融客户可能需要非常专业的金融指标计算,这就需要明确定义的自定义工具应用。问答 Agent 主要依赖模型的规划能力和调用工具的能力。关于幻觉问题,许多论文提到通过 self-critic 和 self-refine 等 进行自我检查可以减少幻觉。

在实际使用中,Agent 虽然理想美好,但现实依然充满挑战。Agent 相比传统的 Native Agent,迭代步骤更多,可能会有误差累积。在多次迭代中,幻觉可能会累积,我们在多步 Agent 之后发现了这种问题。此外,Agent 还可能出现死循环,无法停止迭代,或者出现早停,即在未得到答案前就停止了。我们还面临一个较大的问题是上下文长度的管理。由于 RAG 会进行多次检索,我们需要决定是否保留这些检索内容。如果全部保留,上下文可能会过长;如果不保留,可能会遗漏信息。在这方面,我们还需要不断迭代和平衡。

郭瑞杰: 下面请老师回答一个观众问题:“在整个 RAG 过程中添加各种技术手段,使得处理过程过长,如何进行优化呢?”

常扬: 我认为技术发展初期遇到无法解决的问题是很自然的,这会促使我们引入新的模块来应对。但我依然坚持,在最基础的关键流程中,我们必须实现速度和性能的最优化。例如,我们一直在研究文档解析问题,这不仅需要解决不同版式元素的稳定性和准确性,还要提高效率。最近,我们已经能够做到在大约 1.5 秒内完整解析 100 页的 PDF。

我的观点是,从最基础的产品出发,长的编排并不是问题。真正的挑战在于,在横向探索技术复杂度时,要在每个基础模块上提升效率。 目前,许多服务过程相当冗长。以微信春晚抢红包为例,这个过程背后需要经历的步骤非常多。尽管在技术初期确实较慢,无法满足高并发需求,但在当前更复杂的场景和更高要求下,即便面对上亿的并发量,依然能够保持良好表现。这是因为每个模块都达到了产品级的性能标准。现在,没有人会说移动互联网技术在多个微服务串行的情况下会出现效率问题。

张颖峰: 在我看来,目前 RAG 处理过程的时间过长并不是一个主要问题。我们可以将 RAG 的工作流程分为几个阶段:首先是数据抽取,我们会使用多种模型以语义的方式抽取和解析数据;其次是文档预处理,包括知识图谱的抽取和文档聚类等;然后是索引构建,以及排序和查询改写等操作。每个阶段都需要进行大量工作,以确保最终的效果。每个阶段的工作与我们后面可能遇到的问题息息相关,都需要精心处理,从而保证最终效果。因此,目前阻碍 RAG 普及的主要痛点不是速度,而是效果。 实际上, RAG 的速度已经相当快。如果我们从数据库的角度来看, RAG 更倾向于服务于一个“写少读多”的场景,即我们可能会上传一些数据,一旦这些数据被加工处理,接下来更多的是围绕这些数据进行问答。

如果技术发展必须在速度和效果之间做出取舍,我认为速度是可以有所牺牲的。 毕竟,目前我们必须通过不断迭代来确保效果,这是需要优先解决的问题。我预计,要达到令人满意的效果,可能还需要半年到一年的时间周期。在此期间,我们应该专注于提升 RAG 的效果,即使这意味着在速度上做一些妥协。

郭瑞杰: 有个用户提问说,用 RAG 来做推荐系统,但是效果一直不太好,请问老师们有什么建议?他做的推荐系统是一个专家推荐系统,用户提出需求,然后从人才库中推荐信息。

张颖峰: 我不妨为我们的数据库做个广告。推荐系统实际上需要一些复杂的业务逻辑。例如,你需要通过各种混合召回方式,将候选对象(candidate)搜索出来。接下来,使用不同的排序方法,包括引入基于业务逻辑的排序和基于模型的排序,将它们结合起来,最终给出一个答案。如果仅使用单一策略,效果可能并不理想。

使用 RAG 构建推荐系统,我认为这是一个非常前沿的领域。目前,大家使用 RAG 进行搜索还没有做得很好,而推荐系统是一个更加复杂的系统,涉及的效果和业务场景变数都很大。我们目前还没有开发推荐系统。不过,根据我过去在推荐系统领域的经验,解决问题的方法无非是从召回和排序两个角度入手。召回时,你需要采用多种手段,比如关键词召回和向量召回,至少要进行混合搜索。排序时,则需要结合业务逻辑规则和基于模型的排序。这些手段都需要应用到系统中,以解决推荐问题。目前构建推荐系统不会面临我们之前提到的数据抽取、查询改写或知识图谱抽取等问题。因此,仅从索引和召回排序这两个角度出发应该就足够了。

常扬: 我认为使用目前效果较好的方案,比如张总提到的 RAG 工作流,是一个很好的选择。此外,实际上可以使用像 LangChain 这样的工具,它提供了一些回调功能。这些回调函数能够展示 RAG 过程中的内容,包括检索到的内容和与文本块排序相关的信息。通过深入观察每个环节,你可以确定针对你的具体情况是哪些环节出现了问题。这样的工具可以帮助你更细致地了解和优化 RAG 的工作流程。

欧明栋: 使用 RAG 构建推荐系统确实是一个相当大的挑战。与传统的推荐系统不同,传统系统更多依赖用户的行为数据,而使用 RAG 进行推荐,我理解其核心是基于大语言模型,也就是基于语义来进行推荐。过去,基于用户行为的推荐系统能够学习到许多行业特定的模式。如果我们不再依赖行为数据,只使用语义信息,我们可能需要在上下文中体现出行业内的模式和常识信息。如果这些信息能够在上下文中得到体现,大型语言模型或许能够通过学习这些模式来进行合理的推荐。如果直接让大型语言模型自己做出判断,在某些情况下可能会比较困难,特别是在长尾场景中,大模型可能缺乏相应的知识,无法直接进行合理的推理。在这种情况下,可能需要引入一些上下文相关的包或特征,加入一些先验知识以辅助模型做出更好的推荐。

RAG 技术未来展望

郭瑞杰: 前面 3 个话题主要讨论了 RAG 技术的现状、应用情况、高级 RAG 技术解法等,最后,咱们聊聊 RAG 技术未来的发展方向,有哪些新兴的技术和方法可能会给 RAG 技术带来冲击?

常扬: 我们的理念始终是从用户出发,开发出既可用又好用的产品。我们希望推动 RAG 行业的发展,比如提高数据源清洗的准确性,加快知识库更新速度,改进 trunk 分配的智能化,提升 embedding 模型的性能,以及优化 rerank 模型和 prompt 生成的最佳实践。我相信,在未来半年到一年内,这些方面会取得很好的进展,这将是 RAG 发展的一个方向。

就像 ChatGPT 解决了传统深度学习中数据不足和算力消耗大的问题,并推出了爆款产品一样,技术的底座打好后,爆款产品自然会出现。这种技术的范式或大规模应用从两年前开始,已经席卷了整个 AI 行业。在 8 月份的 AICon 上海站上,我分享的也是关于文档解析、embedding 模型等方面的工作,如何使 100 页 PDF 的解析更准确、速度更快。

当然,还有很多基础工作要做,比如用户意图识别、检索技术(结合稀疏向量检索、张量检索、关键词全文检索等)、多路索引、多级路由,以及海量数据的高性能检索,可能还会涉及到向量数据库。此外,还有上下文压缩、句子窗口使用、Self- RAG 等,这些都是 RAG 最基础环节中的提升点。我认为,这些基础工作完成后,才有可能出现爆款产品。

接下来发展可能是多模态应用。RAG 技术和思想能否应用于图片、音频、视频、3D 模型和代码等多模态情况,我认为这非常值得期待。我们可以检索文本、图片、视频,进行图文搜索,甚至检索视频片段。现在互联网上的信息很多是视频信息,包括短视频和长视频,它们包含了丰富的知识内容。如果能够检索视频中的某一帧,那将是应用广度和深度的巨大提升,可能会出现很多 C 端的爆款产品。

至于冲击,我认为 RAG 能够长期立足的原因在于它的实时性和数据安全性。微调和 RAG 之间始终存在时间差,即使微调不断迭代,这个时间差也不会消失。大模型虽然有更强的上下文能力,但它们无法处理非常海量的数据,无法保障数据安全性,也无法解决 ROI 问题,即收益和高推理成本的比较。这些其实都是 RAG 的强项。

总结一下,我认为 RAG 发展的基础效果是第一位的。当这些基础打好后,我们就会看到很多 ToC 和 ToB 的应用出现。其次是多模态应用,我相信这会开启一个新时代。现在大模型在 C 端的产品和应用还不多,但多模态的发展可能会出现消费级爆款。微调和长上下文对 RAG 没有冲击,反而是一个非常好的结合,通过这种结合可以完成非常好的产品。

欧明栋: 多模态确实是一个重要的领域,它应该会显著提升 RAG 的体验。原因在于,用户的理解往往是基于多模态信息的,我们日常接触到的数据也大多是多模态的。例如,人们通过结合文本、图片、音频和视频等多种形式的信息来获得更全面的理解。

近期,关于大型模型在非文本(non-context)模态上的能力以及 Agent 能力对 RAG 影响的讨论越来越多。长上下文大模型的能力确实能够提升 RAG 本身的效能。但是这并不意味着检索和逻辑推理的能力就能被完全替代。这些能力仍然是 RAG 不可或缺的一部分。

对于 Agent 而言,目前的趋势是将传统 RAG 的检索过程作为 Agent 的一个工具,以此来实现更好的集成。Agent 可以利用 RAG 的检索功能,结合自身的优势,比如任务规划和执行,来解决真实场景中的复杂问题。

张颖峰: 我想从两个方面来探讨 RAG 的未来发展。首先是 RAG 应如何演进,其次是未来 RAG 可能受到哪些技术的冲击和影响。

对于 RAG 的演进,我认为可以从四个阶段来考虑:数据抽取、数据预处理、索引和查询改写。

第一阶段:数据抽取

在数据抽取方面,理想的情况是有一个能够处理各种文档的抽取大模型,无论文档中包含什么内容,如流程图、柱状图、饼图等,都能解读出来。如果能够开发出这样的大模型,它将解决 RAG 在数据落地方面的许多痛点。

第二阶段:数据预处理

数据预处理目前主要包括 embedding 模型和知识图谱的抽取。Embedding 模型在一些垂直场景中的应用需要进一步优化,以减少向量干扰。知识图谱的自动化构建,如微软的 Graph RAG 所展示的,为 RAG 问答质量的提升提供了一个很好的起点,尤其是对于多跳或长文本问答。

第三阶段:索引

索引阶段,我们已经尝试了多种搜索手段,包括全文搜索、向量搜索、系数向量搜索,甚至张量搜索。IBM 研究院提出的 Blended RAG 通过三路召回混合搜索,可以达到最佳效果。我们复现了这一结果,并发现使用张量等手段可以进一步提升效果。

第四阶段:查询改写和排序

最后一个阶段是查询改写和排序。这一环节的技术进步将进一步影响 RAG 的迭代和发展。

我认为,在半年到一年的时间里,这四个阶段都会有显著的进展。这些进展将决定 RAG 如何应对未来的技术冲击和影响。

关于未来对我们技术可能产生的冲击,我认为主要有以下几个方面。

首先,我坚信 AGI(人工通用智能)终将到来。随着大模型能力的不断升级,例如未来可能出现的 GPT-5 或其他更高级、具备推理能力的模型,它们的到来可能会对我们目前 RAG 的检索行为产生影响。在这种情况下,我们可能需要重新考虑是否继续使用现有的技术堆栈和检索策略,这是一个目前我还无法回答的问题,但可以预见的是,它将对 RAG 产生一定的影响。

其次,技术的演进可能会导致我们更深入地将 RAG 与大模型结合起来。目前,有些研究方向并不是简单地称之为 RAG ,而是称为基于检索增强的大模型。这种研究将数据库检索结果与模型内部的 embedding 深度耦合。我认为这是一种有趣且有益的探索方向,两者之间的交互应当是非常深入的。

从这些角度来看,未来 RAG 产品的技术演进形态可能会受到显著影响。然而,核心的行为和需求是不会改变的。我们始终需要一个长期记忆体,如硬盘,来配合模型,以服务于更复杂的场景。这一点是不会改变的。不过,具体的技术栈和表现形式可能会随着技术的发展而发生较大变化。

郭瑞杰: 未来多模态 RAG 、Agent、基于 LLM 的知识图谱等技术深度结合,可能会带来新的优化方法和产生新的应用场景。这些新兴技术和方法可能会给 RAG 技术带来新的冲击和发展机遇,推动 RAG 技术在更多领域和场景中的深度应用,并实现更高的性能和可用性。感谢 3 位老师的精彩分享,期待 3 位老师在 AICon 现场的发挥。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】
RAGFlow和Dify对比 RAGFlow和Dify都是基于大语言模型(LLM)的应用开发平台,分别专注于深度文档理解与检索增强生成(RAG)和LLM应用开发。RAGFlow以其深度文档解析能力和无幻觉生成著称,而Dify则以其灵活的工作流编排和全面的模型支持见长。以下从多个维度对两者进行详细对比。RAGFlow更适合需要深度文档解析和无幻觉生成的企业,尤其是处理复杂格式文档的场景。Dify更适合需要灵活工作流编排和多模型集成的开发者,尤其是构建复杂AI应用的场景。 阅读详情

相关推荐

Recurrent Memory、Agentic RAG与LLM写作评估实战指南

大语言模型应用落地正从‘能生成’迈向‘可信赖’阶段,核心挑战在于状态持续性、检索可控性与结果可验证性。Recurrent Memory 通过结构化状态向量替代原始上下文拼接,显著降低 token 开销并提升长程指代准确率;Agentic RAG 将检索重构为可调度、可验证、可回滚的原子任务,实现从‘找文档’到‘启动子任务’的范式升级;而 LLM 写作评估需摒弃 BLEU 等翻译导向指标,转向以任务完成度为核心的三层漏斗框架——意图匹配、事实一致、业务达标。三者协同构成智能体工程确定性的技术基座,适用于客服对

weixin_30694389的博客 262

ragflow本地部署的问题(文本解析不了)

对于本地部署的ragflow出现的问题,进行的解决。

lyf120622的博客 2万+

RAGFlow系统提示词以及关键字设置无效,如何解决?

🏆本文收录于《全栈Bug调优(实战版)》专栏,主要记录项目实战过程中所遇到的Bug或因后果及提供真实有效的解决方案,希望能够助你一臂之力,帮你早日登顶实现财富自由🚀;同时,欢迎大家关注&&收藏&&订阅!持续更新中,up!up!up!!

**My Coding Family** 1838

RAG真的烂大街了吗?

大语言模型技术迅猛发展的脚步,正引领着信息检索技术进入一个新的纪元。在这一领域中, RAG 技术将传统信息检索技术与大语言模型技术相结合,为知识理解、知识获取提供了全新的解决方案。然而,尽管 RAG 在很多任务上表现出色,其在深度应用上仍面临诸多挑战。在日前的 InfoQ 《极客有约》X AICon 直播中,我们邀请到了阿里巴巴总监 & TGO 鲲鹏会学员阿里云高级算法专家、英飞流 CEO、合合信息研发总监,深入探讨 RAG 技术的当前进展、面临的挑战、未来的发展方向以及在不同行业中的应用潜力。

Everly_的博客 1683

手把手教你用三菱PLC控制JET伺服原点:从硬件接线到GXWORKS3程序调试

本文详细介绍了如何使用三菱PLC控制JET伺服系统实现原点回归功能,涵盖硬件接线、参数配置到GX Works3程序调试的全流程。通过实战指南,帮助工程师快速掌握伺服控制技术,提升工业自动化项目的实施效率。

weixin_30642561的博客 536

MaaS 商业模式全面分析报告:从技术赋能到商业变现的全链条探索

MaaS(模型即服务)商业模式正成为AI产业主流,2024年上半年中国市场规模达2.5亿元,预计2027年占比将提升至47%。该模式通过云服务提供预训练AI模型,大幅降低企业应用AI的技术门槛和成本。核心盈利方式包括按使用量计费、订阅制、定制化服务等,其中混合模式因灵活性成为趋势。MaaS产业链包含模型提供商、云平台、应用开发商和最终用户,重塑了AI产业格局。随着《数据法案》等监管加强,数据增值服务面临更严格合规要求。未来五年,中国MaaS市场增速预计超50%,用户规模将从2025年2.1亿增至2030年5

芯片行业20年 · 参与定义实现千万级量产出货 · AI芯片PM 2894

RAG技术“灵魂拷问“:你真的懂检索增强生成吗?从本质到工程实践的全方位解析

本文深度解析RAG(检索增强生成)技术全链路,从检索、增强、生成三大核心环节展开。详细介绍了文档解析、Chunk切分、向量化检索、Query重写、上下文增强及生成控制等关键环节的工程实践,并提供了系统架构设计与性能优化建议。文章强调高质量数据预处理、语义化知识构建和精准检索策略是构建工业级RAG系统的基石,为开发者提供了从理论到实践的完整指南。

star_nwe的博客 795

升降机SEW MOVIDRIVE变频器设置

选择PO1 第2,3,9,13 位,点击“SendPA”Start reference,编码器反馈值为0(PI2/3 Actual position=0)提示:传送参考位置前请断开变频器安全24V电源,否则会弹出禁止修改提示框;提示:做这一步时,如果出现电机不能转动,或产生报警不能通过编码器匹配。下载配置的参数,提示:下载参数需要断开变频器的安全24V电源。编码器匹配通过后点击下一步,进入下图画面传送参考位置。1电机不能转动:a可能是由于变频器的安全24V未给。点击2.SEW总线扩展定位,定位块设置。

xdpcxq的专栏 5400

AI大语言模型LLM学习-Advanced RAG(高级检索增强生成)从理论到实战

在《AI大语言模型LLM学习-RAG技术及代码实现》一文介绍了RAG的相关知识,其中介绍到RAG的发展经历三个主要阶段:原始(Native RAG)、高级(Advanced RAG)和模块化RAG(Modular RAG),文中实战使用实际案例介绍了原始(Native RAG)的代码实现;本文将重点介绍高级(Advanced RAG)的概念及代码实现。摘要技术用于生成检索结果的简短摘要,帮助用户快速了解文档的主要内容。包括抽取式摘要和生成式摘要两种方法。

fengqiuhuang123的专栏 2262

士兰微SC7A20H三轴加速度计在智能穿戴设备中的运动检测实践

本文详细介绍了士兰微SC7A20H三轴加速度计在智能穿戴设备中的运动检测实践,包括其工作原理、硬件设计避坑指南、运动检测算法优化、低功耗设计及校准测试技巧。SC7A20H凭借±16g超宽量程和0.004g高精度,成为智能穿戴设备的运动感知核心,适用于计步、6D方向检测等场景,显著提升用户体验。

weixin_29168153的博客 746

AI人工智能领域多模态大模型的数字孪生应用

本文旨在系统性地介绍多模态大模型在数字孪生领域的最新应用进展,探讨其技术原理、实现方法和应用价值。内容范围涵盖从基础概念到前沿技术,从理论分析到实践案例。文章首先介绍多模态大模型和数字孪生的基本概念,然后深入分析两者的结合点,接着通过具体案例展示应用实践,最后探讨未来发展趋势和挑战。多模态大模型:能够同时处理和融合多种数据模态(如文本、图像、视频、音频等)的大型人工智能模型数字孪生:物理实体或系统的虚拟副本,通过实时数据同步实现虚实交互跨模态融合:将不同数据模态的信息进行有效整合和关联的技术。

AI云原生与云计算技术学院 1325

30 个新颖的 Python 毕业设计题目(非烂大街版)

【摘要】本文分享了30个新颖的Python毕业设计选题,涵盖7大技术方向:1)大模型轻量化应用(如本地化错题解析系统);2)计算机视觉创新场景(如宠物行为检测);3)NLP细分应用(如方言转写系统);4)物联网与边缘计算(如能耗分析系统);5)自动化工具(如简历智能筛选);6)数据挖掘(如共享单车潮汐分析);7)强化学习(如智能停车优化)。所有选题均避开常见基础项目,强调实际应用场景,适合本科/专科毕设,基于Python主流技术栈实现,部分可结合树莓派增强亮点。

程序大全的博客 661

51单片机入门指南-基于STC89C52(持续更新)

一、环境介绍 编程IDE: keil5 单片机型号: STC89C51/52 开发板: 普中科技的开发板 完整PDF资源下载地址:https://download.youkuaiyun.com/download/xiaolong1126626497/19785856 二、51单片机开发手册介绍 2.1 前言 51单片机是对所有兼容Intel 8031指令系统的单片机的统称。 该系列单片机的始祖是Intel的8004单片机,后来随着Flash rom技术的发展,8004单片机取得了长足的进展,成为应用最.

8804

派聪明RAG知识库docker部署成功,我的经验总结

docker部署二哥的星球项目RAG知识库,通关之后的经验总结分享

大学成长道路上的探索经历与点滴思考,与君共勉,共筑成长。 1138

【WRF模拟】保存wrf输出文件到指定目录+仅输出指定空间域/变量文件

修改wrf命令以更改指定输出文件目录等

WW、forever的博客 546

YOLO11改进-注意力-引入自调制特征聚合模块SMFA

SMFA(自调制特征聚合模块): SMFA模块用于协同建模局部和非局部信息,它分为两个分支:一个是EASA(Efficient Approximation of Self-Attention,简化的自注意力分支),用于捕获非局部信息;另一个是LDE(Local Detail Estimation,局部细节估计分支),用于捕获局部细节。EASA通过对输入特征进行下采样,然后利用全局特征的方差进行调制,再与原始特征进行聚合,提取非局部结构信息。LDE分支则通过卷积操作提取输入特征中的高频局部信息。

qq_64693987的博客 2209

为什么大模型总是“答非所问“?一文读懂 RAG

上个月帮一个朋友调试他的公司内部 AI 助手。他问 GPT:"我们公司去年营收多少?" GPT 答得头头是道,数字精确到亿。他直接拿去给老板汇报,老板当场打脸——那个数字是编的。

m0_59235945的博客 214

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

转码生的“生存红线”:2026 年非科班留学生求职,哪些项目已经“烂大街”到会被 HR 秒挂?

在 2026 年的北美科技求职严冬中,“转码(Career Transition to CS)”早已不再是几年前那条刷两百道算法题就能轻松上岸的捷径。随着计算机科班毕业生的大量涌入以及 AI 代码助手的普及,企业对 Entry-level(初级)工程师的工程能力要求已经被拉升到了前所未有的高度。

StemCareerGroup的博客 390

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

1600份Word文档怎么“喂”给AI?工控知识库RAG实战复盘,保姆级教程来了!

本文分享了工控软件厂商售后知识库项目的落地案例。针对企业知识碎片化、搜索失效和人力错配等痛点,项目从数据清洗、检索策略到系统架构进行了全流程优化。通过1600多份Word文档的清洗与元数据增强,结合Parent-Child检索策略和本地Rerank方案,显著提升了召回率。系统采用FastAPI+Next.js架构,实现从POC到MVP的升级,支持流式输出和用户反馈收集。相比开源框架,手搓方案更灵活可控,便于长期迭代。文章强调数据工程占项目70%工作量,是决定效果的关键因素,并分享了工控行业售后场景的特殊性和

m0_59163425的博客 1134

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

用 RAG+FAISS 构建古诗词 AI 取名系统:从向量检索到六层质量过滤的实战

本文介绍了一个基于RAG和FAISS的古诗词AI取名系统,通过向量检索和六层质量过滤确保生成名字的可靠性和质量。系统核心包括:1)将270万句古诗词向量化存储于FAISS索引;2)将用户八字五行映射为意象关键词注入检索query,实现语义偏移;3)采用<<NAME>>自定义分隔符实现流式解析;4)通过六层过滤(黑名单、谐音、生僻字、音韵、数理、历史去重)保证名字质量。技术亮点包括五行到意象的语义转换、换一批时的多样性策略,以及严格的Prompt约束防止LLM编造出处,确保每个名字都有真实诗词依据。系统使用Z

qq_31953115的博客 479

AI Agent工程师“速成“真相:别再被LangChain教程忽悠了,这6个月决定你的技术深度!

文章详细解析AI Agent工程师三层能力模型和五大核心技术领域,提供6个月系统化学习路径。强调真正的AI Agent工程师需深入理解底层原理、掌握向量数据库、RAG优化、Agent架构设计和生产化工程,通过扎实学习从"调包侠"成长为年薪百万的技术专家。

m0_59235945的博客 552

独家整理!30 个 2026 年最火的 SpringBoot 毕设题目,避开烂大街选题!

本文推荐29个基于SpringBoot的毕业设计项目,涵盖政务审批、电商平台、智慧园区等多个领域。每个项目均采用国产化达梦DM8数据库,整合AI大模型技术实现智能分析,并提供完整源码、论文框架和部署文档。项目特色包括多类型数据导入、语义级分析、交互式报告生成等功能模块,适配不同行业场景需求,助力毕业生高效完成毕业设计。

程序大全的博客 696

【2027计算机毕设选题】高通过率毕设选题讲解+创新点+千套学习源码,AI智能体、agent、rag知识库、深度学习

2027计算机毕业设计选题避坑指南(摘要) 选题是计算机专业毕业设计成功的关键因素。本文提出选题三大原则:能落地(匹配学生技术栈)、有亮点(包含创新点)、难度可控(3-5个核心模块)。重点避开四类题目:纯增删改查系统(如学生管理系统)、烂大街项目(如博客系统)、技术过时方案(如JSP开发)、范围过大主题(如智慧城市平台)。文章精选50个高通过率选题,分为网站、小程序/安卓、大数据三类,每个推荐题目均附带创新点建议。例如校园闲置物品交易平台可加入协同过滤推荐算法,医院陪诊小程序可设计智能时段匹配功能。选题时需

2501_92994129的博客 540

搞不懂BM25?你RAG的检索可能白做了

很多人聊RAG,上来就是Embedding、向量数据库、语义匹配,好像关键词检索已经是上个时代的产物。

m0_59235245的博客 309
上一篇: 开源仅 1 天就斩获近万星!超越 RAG、让大模型拥有超强记忆力的 Mem0 火了
下一篇: RAG流程优化(微调)的4个基本策略
AI大模型_学习君
博客等级 码龄3年 6138粉丝 551原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值