深藏功yu名-优快云博客

原创大模型推理加速实战技术

大模型推理加速技术实战摘要本文系统讲解了大模型推理加速的核心技术与实践方法。重点介绍了vLLM引擎及其革命性的PagedAttention机制，该技术通过分页式显存管理将显存利用率从50%提升至95%以上，实现3-5倍加速。文章详细对比了Ollama、vLLM和TensorRT-LLM三大工具的性能差异，其中vLLM凭借开箱即用和Python3.10完美兼容成为最优选择。实战部分提供了vLLM完整安装指南和Qwen-7B模型部署代码，包含逐行详细解释。最后通过基准测试证明vLLM相比Ollama可获得显著

2026-04-22 18:02:59 546

原创 Docker+FastAPI+千问API，复刻豆包式流式聊天界面

本文介绍如何使用Docker、FastAPI和千问API搭建一个类似"豆包"的流式聊天应用。主要内容包括：Docker基础知识讲解(镜像、容器概念)和安装指南；Docker Compose多容器管理工具介绍；千问API的接入方法；项目实战部分涵盖前后端开发(实现SSE流式输出和聊天界面)；详细的Docker配置说明；以及项目部署和常见问题解决方案。通过本教程，读者可以掌握容器化部署技术，并构建一个具有实时响应特性的聊天应用。

2026-04-21 16:41:07 729

原创 Python Agent 工程化实战

Python Agent 工程化实战摘要本文系统讲解了Python Agent工程化的核心知识与实战技巧，主要内容包括：插件化开发：通过模块化设计实现功能解耦，采用插件管理器统一调度，支持热插拔，提升代码复用性和维护性。异常处理机制：使用装饰器统一捕获插件异常，实现错误分类处理、日志记录和友好返回，确保系统稳定性。安全鉴权方案：基于白名单机制实现插件权限控制，防止未授权访问，保障系统安全性。业务自动化实战：以订单处理Agent为例，展示了从数据查询、业务处理到通知反馈的全流程自动化实现。生产级架

2026-04-20 16:23:25 396

原创从API到数据库，手把手教你打造一个能干活、能背锅的Agent

这篇文章介绍了如何让AI Agent具备实际工作能力，通过集成API和数据库实现实用功能。主要内容包括： RESTful API集成 - 教Agent像快递员一样处理数据（GET查订单/POST创建资源等），附商品查询和订单创建代码示例 GraphQL应用 - 让Agent能精准获取所需数据而非固定套餐数据库连接 - 为Agent配备记忆仓库(SQL+Redis)存储用户偏好等数据实时通信 - 通过Webhook/SSE实现事件通知功能文章采用大量生活化比喻（如"嘴炮王者"变&qu

2026-04-16 16:10:58 467

原创 LangGraph 函数字典：从入门到入魂，一网打尽所有常用 API

LangGraph 函数字典：从入门到精通本文全面介绍 LangGraph 的核心 API，涵盖图构建、状态管理、执行和持久化等功能。主要内容包括：图构建函数：StateGraph 创建基础框架，add_node 添加功能节点，add_edge 连接固定流程，add_conditional_edges 实现条件分支。状态管理：使用 Annotated 和自定义 Reducer 控制状态合并规则，确保数据正确处理。执行函数：invoke 同步获取最终结果，stream 流式查看中间过程，支持不同执行模

2026-04-01 18:21:53 522

原创 Day27：LangGraph 实战落地｜Tool_RAG + 并行子图 + 持久化部署，打造工业级 AI Agent

本文详细介绍了LangGraph从基础到高级的实战落地方案。基础篇涵盖Tool工具集成和RAG私有知识库接入，实现实用AI助手；进阶篇通过并行节点和子图优化复杂工作流；高级篇讲解状态持久化和FastAPI部署，打造企业级AI服务。文章提供了多个代码示例，包括通义千问API调用、Chroma向量库集成、并行任务处理和记忆存储等核心功能，并给出各阶段的避坑指南。最后展示了如何将LangGraph封装为生产级API服务，实现工业级AI Agent的完整开发流程。

2026-04-01 17:55:19 525

原创 Day26_LangGraph核心筑基！State+Node + 路由 + 循环，打造可控式 AI 工作流

本文介绍了LangGraph框架的核心概念与应用，分为基础篇和进阶篇两部分。基础篇重点讲解State、Node、Edge三大核心组件： State作为AI的共享记事本存储全局数据 Node作为专用功能模块执行特定任务 Edge定义执行流程路线通过两个案例演示了单节点问答和多节点顺序工作流的实现方法，支持通义千问和本地Qwen两种模型。进阶篇介绍了条件路由功能，使AI能够根据问题类型自主选择执行路径：通过二分支路由区分计算问题和常识问题扩展为三分支路由增加RAG检索功能使用路由函数实现智能决策文

2026-04-01 17:54:28 466

原创 Day25（实战+专家篇）：RAG检索+重排序全流程项目｜从零搭建到生产攻坚，本地落地+百万并发双适配

本文提供了一个完整的RAG检索+重排序项目实战指南，从零搭建本地金融LPR问答系统，并扩展到百万级生产环境。教程分为两大部分：第一部分手把手指导搭建基础问答系统，包括数据准备、混合检索构建、重排序优化和交互界面开发；第二部分针对企业级需求，解决高并发、大数据量、系统容错等生产痛点。文章提供了可直接运行的完整代码，并包含测试用例和常见问题优化方案，帮助开发者实现从学习到生产落地的全流程跨越。

2026-03-26 13:46:06 294

原创 Day25（高阶篇）：RAG检索与重排序算法精研｜从原理到参数调优，彻底攻克检索瓶颈

RAG高阶检索与重排序技术精要本文深入解析RAG系统中的检索与重排序核心技术，帮助开发者突破精度瓶颈。核心内容包括：检索算法原理：详解余弦相似度（语义匹配）和BM25（关键词匹配）的底层逻辑，强调向量归一化对精度的影响混合检索策略：通过权重调节（语义0.4-0.7/关键词0.3-0.6）适配不同场景，解决专业术语和长文本检索难题重排序优化：对比三种重排序方案（大模型过滤/专用模型/云API），推荐BGE-Rerank专用模型实现高精度打分（阈值0.5-0.6）全链路调优：涵盖检索阶段（k值5-10

2026-03-26 13:44:31 787

原创 Day25（进阶篇）：RAG检索+重排序深度优化｜生产级精准匹配

文章摘要：RAG检索与重排序深度优化方案本文针对生产环境中基础RAG系统的痛点，提出进阶优化方案，通过混合检索和重排序技术提升准确率50%。核心方案包括：1）采用向量检索与BM25关键词检索结合的混合检索方式；2）使用通义千问或本地Qwen:7b模型进行高阶重排序；3）设计生产级Prompt模板确保回答精准性。文章提供两种实现路径：在线版利用通义API实现高性能检索，离线版基于本地模型保障数据隐私。方案解决了语义匹配偏差、冗余内容过滤等生产环境常见问题，配套代码支持批量处理、异常捕获和结果溯源，可直接应用

2026-03-26 13:43:31 315

原创 Day25：RAG检索+重排序保姆级入门！

本文介绍了RAG（检索增强生成）技术的核心检索与重排序环节。主要内容包括： RAG检索原理：将用户问题向量化后，在向量库中匹配相似文档片段，提供给大模型生成回答，避免模型幻觉。完整RAG流程：从用户提问到生成回答的6个步骤，重点强调重排序（Rerank）对检索结果的二次优化作用。提供两种实战代码：基础RAG问答实现（基于通义千问API）重排序优化版本（通过ContextualCompressionRetriever提升准确率）关键优化点：使用严谨Prompt模板防止模型编造设置低温参数(tem

2026-03-26 13:42:15 303

原创 Day24（进阶篇）：向量数据库 Chroma_FAISS 深度攻坚 —— 索引优化、性能调优与生产级落地

本文深入探讨向量数据库Chroma和FAISS的生产级优化策略。文章首先对比了暴力搜索(KNN)与近似最近邻搜索(ANN)的区别，重点解析了HNSW索引原理及其参数调优方法。通过详细对比Chroma与FAISS在索引类型、持久化、性能等方面的差异，帮助开发者根据场景选择合适的方案。实战部分提供了Chroma批量写入优化和FAISS的HNSW索引+GPU加速两种生产级实现方案，包含异常处理、索引备份等高可用机制。针对不同规模需求，文章给出了Chroma中小规模优化版和FAISS大规模高性能版的完整代码实现，帮

2026-03-25 13:53:02 1193

原创 Day24：向量数据库 Chroma_FAISS 入门

本文介绍了向量数据库Chroma和FAISS的入门指南。通过类比"智能图书馆管理员"形象解释向量数据库的语义检索优势。提供两种数据库的完整Python代码示例，使用通义千问API实现文本向量化和检索。对比Chroma（易上手）和FAISS（高性能）的特点，并给出新手避坑建议。内容涵盖环境配置、文档加载、分块处理、向量入库和相似度搜索全流程，适合AI初学者快速掌握向量数据库的核心应用场景。

2026-03-25 13:51:42 594

原创 Day23（进阶篇）：Embedding向量化深度攻坚——高维向量优化、检索精度拉满与生产级落地

本文深入探讨Embedding向量化的进阶优化策略，聚焦高维向量治理与生产级落地。核心内容包括：1) 解析向量空间语义表征原理，对比不同相似度计算方法；2) 提出高维向量优化方案，包括动态降维和归一化处理；3) 比较云端通义千问与本地BGE模型的适用场景；4) 给出4大生产级优化方案：文本预处理、通义千问参数调优、BGE模型微调及向量库性能优化；5) 提供通义千问异步版和本地优化版两种生产级代码实现，涵盖异常处理、批量处理等企业级特性。通过本文方案，可显著提升RAG系统的检索精度和性能，解决长文本语义丢失、

2026-03-24 18:02:32 382

原创 Day9：函数封装与参数校验：打造稳健的大模型工具集

摘要：本文介绍了如何为大语言模型应用开发稳健的工具函数，重点讲解函数封装、参数校验和异常处理。通过使用pydantic库实现严格的参数验证，并演示了如何处理网络请求等常见异常。文章以通义千问API调用为例，展示了完整封装流程，同时提供了查询天气、搜索内容和读取文件三个实用函数的实现模板，帮助开发者构建可靠的大模型工具集。

2026-03-24 17:55:59 377

原创 Day23：Embedding与向量化保姆级教程！让大模型读懂你的文字

这篇文章介绍了Embedding与向量化的概念及其在RAG系统中的关键作用，提供了两种向量化方案：在线通义千问API和本地BGE模型部署。主要内容包括：通俗解释Embedding如何将文本转换为机器可读的数字向量对比在线和本地两种向量化方案的优缺点详细的环境准备和代码实现步骤通义千问在线API的完整使用教程本地BGE模型离线部署的实践指南文章提供了可直接运行的代码示例，展示了向量生成过程和结果展示方式，适合不同需求的技术人员快速上手文本向量化技术。通过这两种方法，开发者可以根据自身条件（有无GP

2026-03-24 17:52:05 958

原创 Day22：RAG 王炸进阶！多格式文档 (PDF_Word)+ 多文档知识库搭建

本文介绍如何构建支持多格式文档的RAG知识库系统。主要内容包括：支持PDF/Word/TXT文档的自动解析和文本提取采用递归分块技术实现中文语义保持可批量处理多个文档构建统一知识库提供通义千问在线版和本地Qwen:7b两种模型方案系统能自动解析不同格式文档，智能分块后存入向量数据库，实现跨文档精准检索。完整代码可直接运行，适合构建企业级私有知识库。

2026-03-24 17:45:52 532

原创 Day21：（实战篇）从零搭建 RAG 系统（附通义千问 _ Deepseek _ 本地大模型完整代码）

本文提供了一个从零搭建RAG系统的实战教程，包含通义千问、Deepseek和本地大模型三种实现方案。教程采用Python+LangChain+Chroma技术栈，详细演示了文档加载、文本拆分、向量化存储等核心步骤。特别针对中文场景优化了文本分割策略，并提供了API调用和本地模型两种向量化方案。通过构建"2026年LPR利率"的问答系统，展示了RAG如何解决大模型知识更新的问题。教程强调实践性，所有代码均附带详细注释，新手可直接复制运行，30分钟内即可完成系统搭建。

2026-03-23 16:10:56 1159

原创 Day21：（理论篇）从大模型 “睁眼说瞎话” 到精准靠谱：RAG 入门保姆级教程，看完直接写进简历！

摘要： RAG（检索增强生成）技术通过为大模型配备实时资料库和智能检索功能，有效解决大模型幻觉、时效性差和无法使用私有数据三大痛点。其核心流程包括文档预处理、向量化、向量存储、检索和增强生成五个步骤。RAG可应用于企业内部知识库、智能客服、个人学习助手等场景，显著提升回答准确性和实用性。相比纯大模型，RAG能提供基于最新资料和私有数据的精准回答，避免"睁眼说瞎话"的情况。该技术门槛低，只需基础Python知识即可实现，是当前AI落地最实用的技术之一。

2026-03-23 16:09:35 435

原创 Day20：打造全能本地轻量Agent，离线运行也能呼风唤雨！

今天我们把过去一周的知识全部融合在一起，打造了一个功能强大、完全离线的本地轻量Agent。它：✅ 基于LangChain + Ollama，离线运行✅ 拥有丰富的工具（天气、计算器、时间、文件操作、随机数等）✅ 具备记忆（摘要记忆，节省token）✅ 有友好的命令行交互界面✅ 经过参数优化，响应速度更快。

2026-03-20 16:02:57 1023

原创 Day19：让我的AI助手彻底离线！LangChain+Ollama本地模型实战 [特殊字符]

摘要：本文介绍如何使用LangChain和Ollama搭建完全离线的AI助手，解决在线模型依赖网络、隐私泄露等问题。通过配置LangChain连接本地Ollama模型（如Qwen 7B），创建支持工具调用（计算器、时间查询）的Agent，并优化响应速度。文章详细展示了环境准备、工具定义、Agent构建及性能优化步骤，帮助开发者打造安全高效的本地AI应用。

2026-03-20 15:40:17 708

原创 Day18：Ollama 安装与本地模型运行：把你的电脑变成AI宠物乐园

本文介绍如何使用Ollama在本地电脑上运行大语言模型，实现离线AI助手功能。详细讲解了Ollama在Windows、macOS和Linux系统的安装方法，以及常用命令操作（模型下载、运行和删除）。重点展示了如何通过Python调用本地模型API进行问答交互，并对比了本地模型与在线模型在响应速度、隐私保护和成本方面的优势。通过简单的代码示例，读者可以快速上手将大模型部署到个人电脑，打造专属AI助手。

2026-03-19 17:05:43 1237

原创 Day17：LangChain Memory系统详解：让AI Agent拥有记忆，实现多轮对话

本文深入解析了LangChain的Memory系统如何为AI Agent赋予记忆能力，实现连贯的多轮对话。主要内容包括：介绍了LangChain的两种记忆类型：短期记忆（ConversationBufferMemory）和长期记忆（ConversationSummaryMemory）详细演示了如何将Memory集成到Agent中，通过天气查询示例展示上下文记忆功能讲解了使用StructuredTool替代@tool装饰器来定义更灵活的工具提供了基于通义千问大模型的具体实现代码和配置方法分析了不同A

2026-03-18 11:53:12 774

原创 Day16（补充）：LangChain 组件完全指南：核心函数

LangChain核心组件指南摘要 LangChain v0.3+采用LCEL和Runnable接口统一组件，提供122个核心功能点。关键组件包括： Runnable接口：统一组件调用方式，支持invoke/stream/batch等方法 RunnableSequence：通过|操作符构建处理流水线 RunnableParallel：并行执行多任务 RunnableLambda：将普通函数接入LCEL链 RunnableBranch：实现条件分支逻辑其他重要特性：支持同步/异步调用(invoke/ain

2026-03-18 11:21:08 615

jdk-8u221安装包.zip

空空如也