大模型 RAG 应用全攻略:从文档处理到工具调用的完整指南

大模型技术学习系列(5): 基于langchain构建RAG应用 本章中,我们回归了一下RAG的流程,并分析了下这个过程中涉及到的组件以及这些组件在langchain中对应的实现方式,并整合这些方式,实现了带RAG的大模型应用。通过这个实践过程,能够帮助我们更好的理解RAG的整个过程。 阅读详情

在大模型应用中,RAG(检索增强生成)是提升回答准确性和时效性的核心技术。本文结合会议分享,从文档处理、嵌入存储、检索优化到上下文管理,全方位拆解 RAG 应用流程,帮你快速掌握实操要点。

一、文档处理:从加载到切割的基础流程

RAG 的第一步是将原始文档转化为模型可处理的格式,核心包含加载、转换与切割三个关键环节。

1. 文档加载与格式转换

  • 通过load方法可将 Word、PDF 等各类文档转化为documents列表,这是 RAG 处理的基础数据结构。
  • 每个document对象包含两大核心属性:metadata(元数据,存储文档来源等信息)和page_content(文档核心内容)。
  • 未切割的文档会作为一个整体存储,切割后则生成多个文档块组成的列表。

2. 文档切割:提升检索精度的关键

  • 依赖text splitter(文本切割器)实现,支持递归切割等多种方式,核心参数包括chunk size(切块大小,默认 500)和overlap(浮动窗口,默认 50)。
  • 核心 API:create documents(输入文本列表生成文档集合)、split documents(输入文档对象切割为文档列表),底层均基于统一逻辑实现。
  • 切割目的:避免长文档语义丢失,让检索能精准定位到关键片段。

二、嵌入与存储:构建高效知识库

将处理后的文档转化为向量并存储,是实现快速检索的核心步骤,涉及嵌入模型与向量数据库两大组件。

1. 嵌入模型:文本转向量的桥梁

  • 框架封装embeddings类统一管理各类嵌入模型 API,支持 Hugging Face、OpenAI、阿里千问等多种底层模型。
  • 实操要点:使用阿里dashing scope embedding时,需传入模型名称(如text embedding V3)和 API 密钥(需提前配置在环境变量中)。
  • 核心作用:将文档文本转化为计算机可计算的向量,保留语义信息。

2. 向量数据库:知识库的存储核心

  • 主流选择:Chroma DB(本次演示所用)、Milvus、FAISS 等,支持相似性检索功能。
  • 存储流程:通过from documentsAPI,传入文档列表和嵌入模型,自动完成向量化与存储,无需手动处理向量转换。
  • 检索逻辑:默认采用余弦相似度计算,可通过k参数设置返回结果数量(默认 4 条),也可自定义检索阈值。

三、检索优化:检索器与多元检索方式

检索器是连接知识库与生成模型的关键,支持多种检索策略,可根据场景灵活选择。

1. 检索器的获取与核心价值

  • 获取方式:通过向量数据库的as retrieverAPI 直接生成检索器对象,无需额外复杂配置。
  • 核心优势:除基础检索外,还支持检索结果重排、多轮检索等优化操作,提升 RAG 回答质量。

2. 三种核心检索方式

检索方式适用场景核心特点
相似度检索精准匹配单一主题基于余弦距离等算法,优先返回语义最相近的结果
分数排序检索需按相关性强弱筛选按相似度得分排序,可自定义筛选阈值
MMR(最大边际相似性检索)需多样性结果去除冗余内容,确保结果既相关又不重复(如多领域应用场景查询)

MMR 检索详解

  • 工作流程:先通过相似度检索获取候选文档集合,再按 “与查询相关 + 与已选结果不重复” 双条件迭代筛选。
  • 核心价值:避免检索结果集中于单一领域,适合需要全面覆盖多维度信息的场景(如 “人工智能的应用场景有哪些”)。

四、链的构建:快速落地 RAG 应用

通过预定义链可简化 RAG 流程搭建,无需手动拼接检索、整合、生成等步骤。

1. 两大核心预定义链

  • 文档链(create star document chain):将多个分散的文档块合并为长文本,统一交给大模型处理,解决碎片化信息整合问题。
  • 检索链(create retrieval chain):整合检索器与文档链,形成 “检索 - 整合 - 生成” 的完整闭环,是 RAG 应用的核心骨架。

2. 链的实操要点

  • 参数传递:检索链需传入两个核心参数 —— 检索器(负责找文档)和文档链(负责整合成文本)。
  • 运行逻辑:无需关注内部执行顺序,框架自动完成 “检索文档→合并内容→生成答案” 的全流程。

五、上下文处理:解决多轮对话痛点

在连续追问场景中,需结合历史对话优化检索,否则会因信息缺失导致回答偏差。

1. 核心问题

用户连续提问时(如先问 “Deepseek V3 是什么”,再问 “它的参数量是多少”),仅用当前问题检索会因信息不足失败。

2. 解决方案

  • 问题重写:将当前问题与历史对话交给大模型,生成完整的重构问题(如将 “它的参数量是多少” 重写为 “Deepseek V3 模型的参数量是多少”),再进行检索。
  • 上下文瘦身:当历史对话过多时,可通过两种方式优化:
  1. 限制条数:仅保留最近 3-5 轮关键对话;
  2. 摘要生成:超过阈值时,让大模型生成历史对话摘要,减少 Token 占用。

3. 前端会话存储

  • 借助streamlit的session state组件,在前端保存用户提问和模型回复,实现上下文自动拼接。
  • 后端辅助:可使用conversation buffer window memory工具,设置k值限制保留的历史对话条数(默认 5 条)。

六、工具调用:突破大模型能力边界

大模型并非万能,需通过工具调用弥补其在实时信息、精准计算等场景的不足。

1. 工具调用的核心原因

  • 大模型局限性:预训练数据有时间限制,无法获取实时信息(如当前日期、天气),也无法完成精准计算等任务。
  • 类比逻辑:大模型如同 “大脑”,工具如同 “手脚”,只有结合工具才能实现与现实世界的交互。

2. 典型应用场景

  • 实时信息查询:调用日历工具获取日期、天气 API 获取实时天气;
  • 精准计算:调用计算器处理复杂数学运算;
  • 数据检索:调用数据库 API 获取最新业务数据。

总结

RAG 技术的核心是 “检索增强”,通过文档处理、向量存储、智能检索、上下文优化四大环节,让大模型能精准调用外部知识,提升回答的准确性和实用性。实操中需重点关注文档切割粒度、检索方式选择、上下文管理三个关键节点,结合预定义链可快速落地应用。

后续将深入探讨 RAG 优化技巧(如检索重排、多模态文档处理),欢迎持续关注!

想入门 AI 大模型却找不到清晰方向?备考大厂 AI 岗还在四处搜集零散资料?别再浪费时间啦!2025 年 AI 大模型全套学习资料已整理完毕,从学习路线到面试真题,从工具教程到行业报告,一站式覆盖你的所有需求,现在全部免费分享!

👇👇扫码免费领取全部内容👇👇

​

一、学习必备:100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT,帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例?大模型电子书?这份资料帮你站在 “行业高度” 学 AI:

1. 100+本大模型方向电子书

在这里插入图片描述

2. 26 份行业研究报告:覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容,涵盖:

  • 职业趋势:《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》;
  • 商业落地:《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》;
  • 领域细分:《AGI 在金融领域的应用报告》《AI GC 实践案例集》;
  • 行业监测:《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT:听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会,包含百度、腾讯、字节等企业的一线实践:

在这里插入图片描述

  • 安全方向:《端侧大模型的安全建设》《大模型驱动安全升级(腾讯代码安全实践)》;
  • 产品与创新:《大模型产品如何创新与创收》《AI 时代的新范式:构建 AI 产品》;
  • 多模态与 Agent:《Step-Video 开源模型(视频生成进展)》《Agentic RAG 的现在与未来》;
  • 工程落地:《从原型到生产:AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看:大厂 AI 岗面试 “弹药库”,300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗?这份面试资料帮你提前 “押题”,拒绝临场慌!

1. 107 道大厂面经:覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景,包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题,每道题都附带思路解析:

2. 102 道 AI 大模型真题:直击大模型核心考点

针对大模型专属考题,从概念到实践全面覆盖,帮你理清底层逻辑:

3. 97 道 LLMs 真题:聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案,比如让很多人头疼的 “复读机问题”:


三、路线必明: AI 大模型学习路线图,1 张图理清核心内容

刚接触 AI 大模型,不知道该从哪学起?这份「AI大模型 学习路线图」直接帮你划重点,不用再盲目摸索!

在这里插入图片描述

路线图涵盖 5 大核心板块,从基础到进阶层层递进:一步步带你从入门到进阶,从理论到实战。

img

L1阶段:启航篇丨极速破界AI新时代

L1阶段:了解大模型的基础知识,以及大模型在各个行业的应用和分析,学习理解大模型的核心原理、关键技术以及大模型应用场景。

img

L2阶段:攻坚篇丨RAG开发实战工坊

L2阶段:AI大模型RAG应用开发工程,主要学习RAG检索增强生成:包括Naive RAG、Advanced-RAG以及RAG性能评估,还有GraphRAG在内的多个RAG热门项目的分析。

img

L3阶段:跃迁篇丨Agent智能体架构设计

L3阶段:大模型Agent应用架构进阶实现,主要学习LangChain、 LIamaIndex框架,也会学习到AutoGPT、 MetaGPT等多Agent系统,打造Agent智能体。

img

L4阶段:精进篇丨模型微调与私有化部署

L4阶段:大模型的微调和私有化部署,更加深入的探讨Transformer架构,学习大模型的微调技术,利用DeepSpeed、Lamam Factory等工具快速进行模型微调,并通过Ollama、vLLM等推理部署框架,实现模型的快速部署。

img

L5阶段:专题集丨特训篇 【录播课】

img
四、资料领取:全套内容免费抱走,学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型,还是有基础想冲刺大厂、了解行业趋势,这份资料都能满足你!
现在只需按照提示操作,就能免费领取:

👇👇扫码免费领取全部内容👇👇

​

2025 年想抓住 AI 大模型的风口?别犹豫,这份免费资料就是你的 “起跑线”!

改进召回(Retrieval)和引入重排(Reranking)提升RAG架构下的LLM应用效果 RAG架构来自于实际问题,而很多问题都是相似的,在效果优化层面,我们可以借鉴一些推荐系统等传统AI系统的优化经验,将其迁移过来,这对于改进RAG效果有很大的帮助,在后面的文章里,还将继续介绍具体场景的一些使用问题,欢迎关注。 阅读详情

相关推荐

RK3588 InsightFace人脸识别移植及精度测试全解析

本文详细介绍了如何在RK3588平台上移植InsightFace人脸识别模型并进行精度验证。通过PyTorch转ONNX、ONNX转RKNN量化模型的关键步骤,实现了INT8量化模型的部署。测试数据显示,该模型在LFW数据集上达到99.43%的准确率(接近官方99.52%),推理时间仅14.23ms。ROC曲线和相似度分布图表明模型区分能力优秀,AUC超过0.99,满足实际应用需求。文中还详解了量化原理、环境搭建和测试方法,为边缘设备部署人脸识别提供了完整解决方案。

Hi20240217的博客 3671

使用RAG的两种模式

在数据索引阶段,RAG借助向量的语义检索获取相应的数据块,之所以使用向量是因为它保留了词与词、句与句之间的关系,从而生成token时不至于太抽象。上述便是RAG使用的一些总结,从实践来看,无论如何分割数据集都会存在一些遗漏的设定从而导致输出的结果不太准确,解决这个问题需要自己根据实际情况编写一些算法进一步加深精度,使输出尽可能符合需要。就是利用大模型的能力,生成检索阶段输出的相关知识和用户的查询问题,通过设计好的Prompt,生成内容并对外输出结果。就是通过向量数据库进行存储和索引,我一般用Faiss。

sinat_34898805的博客 690

实战演练 | ABAQUS显式动力学分析在金属切削仿真中的应用

本文详细介绍了如何利用ABAQUS显式动力学分析进行金属切削过程的二维仿真。通过从零开始的完整流程,包括几何建模、材料本构与失效定义、网格划分、接触设置、边界条件施加,到结果后处理与切削力提取,为工程师和研究人员提供了实用的仿真方法,以优化刀具设计和加工工艺。

purple的博客 930

大模型应用之RAG详解

大模型应用之RAG详解1.RAG背景与简介1.1 背景RAG(Retrieval Augmented Generation,检索增强生成)技术最初源于2020年Facebook的一篇论文——《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》。是的,2020年就已经提出了这项技术。截屏2024-08-02 15.42....

奇舞周刊 457

从零到精通:ROS2 MoveIt2与MPC机械臂轨迹规划的完整配置流程

本文详细介绍了ROS2 MoveIt2与MPC机械臂轨迹规划的完整配置流程,从环境准备到高级功能扩展,帮助开发者实现精准控制。通过集成模型预测控制(MPC),机械臂能够优化复杂轨迹规划,处理动态避障,提升工业自动化效率。

juice的博客 706

200SMART PLC时间不准?手把手教你用MCGS触摸屏实现自动校时(附完整代码)

本文针对西门子200SMART PLC时钟不准的常见问题,提供了一套基于MCGS触摸屏的自动校时解决方案。文章详细阐述了时钟偏差的根源、时间同步方案的技术选型,并手把手指导如何配置MCGS与PLC的通信,以及编写完整的PLC时间读取、转换与设置代码,最终实现稳定可靠的自动时间同步功能。

jupyter5notebook的博客 457

大模型应用:搞懂RAG,原理,流程,最佳实践

为了减少的大小,可以先拼接,再总结,再发给大模型进行处理。不过这种用法很少见,一般是把这个小模型直接做在模型层面,和大模型一起做成一个混合模型,并且会做大量的意图识别的训练。不理解为啥这样做,为了创收吗?AI大模型作为人工智能领域的重要技术突破,正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口,掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程,需要从基础开始,逐步深入到更高级的技术。

m0_56255097的博客 1493

1006. 换个格式输出整数 (15)-PAT乙级真题

1006. 换个格式输出整数 (15)让我们用字母B来表示“百”、字母S表示“十”,用“12…n”来表示个位数字n(<10),换个格式来输出任一个不超过3位的正整数。例如234应该被输出为BBSSS1234,因为它有2个“百”、3个“十”、以及个位的4。输入格式:每个测试输入包含1个测试用例,给出正整数n(<1000)。输出格式:每个测试用例的输出占一行,用规定的格式输出n。输入样例1...

柳婼 の blog 2243

大模型 RAG 应用全攻略:从落地到增效,LLaMA-Factory Online 助力全流程

摘要: RAG(检索增强生成)技术通过文档处理、向量存储、智能检索和上下文优化四大环节,突破大模型预训练数据局限,提升回答准确性与时效性。LLaMA-Factory Online平台提供一站式解决方案,涵盖智能文档切割、多源向量存储、可视化链搭建和多轮对话管理等功能,显著降低技术门槛并提升应用效果。该平台支持多种嵌入模型和向量数据库,内置MMR检索优化算法和上下文管理模块,使RAG应用的落地效率提升30%以上,成为企业快速构建高价值知识问答系统的理想选择。

2601_94878238的博客 591

IEDA激活码失效?教你5分钟快速续期的方法

本文针对IEDA激活码失效问题,提供了一套从快速应急到深度排查的完整解决方案。文章不仅详解了5分钟快速续期与清理缓存等应急方法,更深入剖析了授权机制、离线激活流程,并指导如何构建可持续的授权管理策略,帮助开发者彻底解决激活困扰,确保开发环境稳定。

a0b1c2d3的专栏 273

六轴机器人正解

采用的是John H.Craig在【机器人学导论】中的改进DH模型 1.六轴坐标系 2.DH参数 i αi−1\alpha_{i-1}αi−1​ ai−1a_{i-1}ai−1​ did_idi​ θi\theta_iθi​初值 1 0 0 0 0 2 -90 a1a_1a1​ 0 -90 3 0 a2a_2a2​ 0 -90 4 -90 a3a_3a3​ d4d...

m0_37581770的博客 2511

RAG文档预处理全攻略:从Embedding到图像处理的实战指南

本文详细介绍了RAG技术中文档预处理的关键步骤和技巧。首先强调了文档预处理的重要性,能有效避免检索不相关内容和减少模型幻觉。然后介绍了三种文档处理形式:自动分段与清洗、自定义分段和按层级分段,并提供了关键处理技巧。最后针对文档中图像的处理提出了三种方法:图像注释标注、OCR技术和图像理解模型,帮助提升RAG系统的处理效率和精确度。

m0_74942241的博客 1086

RT-DETR改进策略【RT-DETR和Mamba】| 替换骨干 Mamba-RT-DETR-T !!! 最新的发文热点

模块是模型中的一个重要组成部分,其主要作用是在模型的初始阶段对输入图像进行处理,方便后续的特征提取和目标检测。以下是对。

Limiiiing的博客 1322

RAG文档处理全攻略:手动vs自动化,收藏这份决策指南!

RAG系统中文档处理方式的选择直接影响检索质量。手动处理准确率高(99%+),能理解语义和特殊格式,但效率低;自动化工具处理速度快、成本低,但对复杂格式识别有限。企业通常开发混合工具结合两者优势:小企业适合手动处理少量文档,大企业需要自动化处理海量数据,高质量场景仍需人工介入。文档处理质量是RAG系统的核心,需根据业务规模、质量要求和开发能力灵活选择策略。(149字)

ytt0523_com的博客 951

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

RAG知识库构建实战指南:从文档处理到精准检索,小白到精通全攻略!

RAG知识库构建中,文档处理是根基,需根据业务场景灵活处理。知识库本质是优化检索而非简单管理。结构化数据应提取元数据便于精准检索,非结构化数据需分段并提取核心内容。文档处理前需清洗过滤无用信息,避免脏数据影响质量。最终处理方式应基于实际业务需求调整,而非机械套用模板。文档处理在不同的业务场景中需要选择不同的处理方式,而不送一概而论。关于RAG的知识库构建或者说文档处理,很多会受限于各种条条框框,比如说应该这样处理你的文档,应该那样建立你的知识库;

2401_85373898的博客 660

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

Python + 大模型应用开发全攻略:从API调用到RAG部署

大模型本质上是强大的推理引擎,但要落地到具体业务,必须依靠应用开发完成连接、增强、交互与治理。Python凭借成熟的AI生态成为首选语言,开发者需要掌握Prompt工程、RAG检索增强生成、向量数据库、FastAPI服务封装等核心能力。本文从基础概念与API调用出发,逐步拆解知识库问答助手的构建过程,涵盖文本切分、向量检索、Web服务化及生产级部署要点,帮助开发者建立从“调接口”到“做工程”的完整认知。无论你是初学者还是已有实践经验的开发者,都能从中找到将模型能力与业务场景有效组装的路径,实现从Demo到可

weixin_30607125的博客 332

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

AI大模型应用开发全攻略:收藏!一文掌握大模型应用开发核心技能

本文系统介绍AI大模型应用开发核心技术,涵盖Messages、RAG、Tools、ReAct等技术要点。通过案例解析大模型如何通过对话列表实现"记忆"功能,以及检索增强生成(RAG)的应用流程。详细说明Tools参数如何让大模型调用外部工具,并阐述ReAct推理行动模式和Agent自主任务处理机制。文章强调大模型应用开发需结合业务需求,为开发者提供从入门到进阶的全面指导,帮助掌握企业级AI应用开发能力。

qq_46094651的博客 1443

【强烈收藏】大模型应用开发实践:RAG与智能体核心技术及学习路径全攻略

文章探讨了大模型应用开发的实践挑战,指出从demo到企业级应用的巨大差距。重点分析了RAG系统中数据召回的广度与精准度平衡难题,以及智能体系统的核心——模型推理与工具调用能力。文章强调大模型应用虽入门简单但做好需大量技术与工程经验,并提供了从基础理论到RAG开发、Agent设计等完整学习路径,帮助读者系统掌握大模型技术,抓住AI发展机遇。

Android_XG的博客 688

收藏备用!新手也能懂的大模型RAG知识库搭建全攻略

收藏备用!新手也能懂的大模型RAG知识库搭建全攻略

weixin_59191169的博客 1436

收藏!腾讯云RAG落地全攻略:从文档解析到多模态,看这一篇就够了!

RAG(检索增强生成)技术被视为解决大模型幻觉和知识局限的关键路径,但其落地实践在文档处理、检索和理解等环节面临诸多挑战。

xx_nm98的博客 962

【珍藏】企业级RAG系统构建全攻略:从文档预处理到生成增强

摘要:本文剖析企业级RAG系统构建的三大核心环节——文档预处理、召回与生成增强,针对复杂文档处理、问题优化等难点提供实用解决方案。通过统一文档格式、多维度问题优化、上下文压缩等技巧,提升系统效率与准确性。文章强调业务场景适配的重要性,并分享文档转换、标签提取等实战经验,帮助开发者构建高质量RAG系统。最后指出AI时代率先掌握技术者的竞争优势,呼应大模型学习的重要性。全文兼顾技术深度与实用价值,为RAG项目优化提供系统指导。

python1234_的博客 991

必学收藏 | 深入解析RAG技术:从文档处理到数据召回的优化全攻略

必学收藏 | 深入解析RAG技术:从文档处理到数据召回的优化全攻略

youmaob的博客 1148

大模型落地实战:构建你的文档审核AI Agent全攻略!

本文详细解析了文档审核AI Agent的技术架构与应用实践。AI Agent在文档审核中表现优异,准确性≥90%,速度提升数千倍,成本降低99.97%。文章系统介绍了文档审核Agent的核心能力、技术架构(解析与结构化、规则与知识、Agent编排),对比了OCR与VLM两种技术路线,并通过票据审核和合同审核案例展示了从简单到复杂的渐进式落地路径。多Agent协作成为提升审核效果的关键方案,为开发者提供了完整的技术参考。

2401_85375151的博客 2100

AI大模型应用开发全攻略:入门到实战

本文系统介绍AI大模型应用开发核心技术,涵盖Messages对话记忆、RAG检索增强生成、Tools工具调用、ReAct推理行动模式、Agent自主任务执行等关键概念。通过具体案例和代码示例,阐述大模型如何结合业务需求实现智能交互,包括知识库检索、数学计算等场景。文章强调大模型并非独立执行任务,而是通过API交互、参数控制和系统配合实现功能,为开发者提供从基础到实战的学习路径。

m0_74942241的博客 957

大模型RAG智能客服知识库构建:从粗细颗粒切分到表格处理全攻略!

文章详细介绍了大模型RAG智能客服知识库构建中的文档切分技术。通过粗颗粒按章节切分和细颗粒按文本类型切分相结合的方式,并采用"标题+图片+上下文"的整体切割策略,提升检索效率和答案精准度。重点讲解了PDF结构化信息处理、表格结构化提取与表格-正文绑定方法,以及分块验证和批量文档处理技巧,通过分层切割与树形索引实现更精细化的落地应用,有效解决知识库文档碎片化问题。

WANGJUNAIJIAO的博客 1452
上一篇: 大模型相关术语和框架总结|LLM、MCP、Prompt、RAG、vLLM、Token、数据蒸馏
下一篇: 6个GitHub爆火的免费大模型教程,助你快速进阶AI编程
AI_小站
博客等级 码龄3年 6255粉丝 1151原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值