博.闻广见-优快云博客

原创第11篇：Agent应用的部署与运维 —— Docker、Dev Container与云平台实战

从开发环境到生产环境，Agent应用需要面对容器化、持久化、CI/CD等一系列挑战。本文以RAG知识库问答系统为例，详细讲解Docker Compose编排前后端服务（FastAPI + Next.js）、Dev Container配置实现一致的开发环境、ChromaDB在云平台上的持久化方案、以及Vercel前端部署与Railway后端部署的全流程，提供可直接复用的配置模板。Dev Container让团队成员（或在不同机器上）使用完全一致的开发环境，彻底消除“环境不一致”问题。文件包含API Key，

2026-10-23 10:18:21 336

原创第10篇：Agent系统的性能优化 —— 缓存、压缩与动态模型路由

一次普通的Agent调用可能涉及3-5次LLM请求（规划、工具调用、结果整合），每次请求数百到数千Token，成本随调用量线性增长。第三层，动态模型路由——用小模型判断任务复杂度，简单任务走轻量模型、复杂任务走推理增强模型。对于Agent系统，输入Token通常占单次调用总Token的60%-80%，压缩空间巨大。缓存是最直接有效的优化手段——相同或高度相似的问题，直接返回缓存结果，完全避免LLM调用。动态路由以标准模型约60%的成本，获得了接近顶级模型90%的质量。，是成本优化的核心策略。

2026-10-20 09:54:06 160

原创第9篇：Agent框架选型指南 —— LangChain/LangGraph vs CrewAI vs Dify vs Coze

对比维度LangGraphCrewAIDifyCoze目标用户开发者开发者开发者/产品经理所有人代码量~80行~30行+YAML00控制力★★★★★★★★★★★★★★易用性★★★★★★★★★★★★★★私有化✅ 完全可控✅ 完全可控✅ 开源可私有化❌ 闭源平台学习成本高低-中低极低条件分支✅ 代码控制⚠️ 需Agent决策✅ 工作流节点⚠️ 有限支持工具扩展✅ 任意Python函数✅ 继承BaseTool✅ 自定义插件。

2026-10-19 17:51:59 299

原创第8篇：Agent工具系统 —— 从Function Calling到自定义Tool

工具（Tool）是Agent与外部世界交互的接口。没有工具的Agent只是一个“对话模型”，有了工具的Agent才能真正“行动”——搜索信息、查询数据库、发送邮件、执行代码。本文系统讲解工具调用的完整链路：从JSON Schema的工具定义、模型推理返回tool_calls、到应用程序执行函数并回传结果的多轮闭环。以博查搜索API为例，展示如何为Agent集成自定义搜索工具，并实现“模拟搜索”作为降级方案。工具定义的优劣直接影响模型的调用准确率。以下是最佳实践：3.1 name命名的三原则原则说明。

2026-10-09 07:52:31 166

原创第7篇：CrewAI多智能体协作 —— 构建虚拟研究团队

Agent是CrewAI中最基础的执行单元。Role（角色）：Agent的身份标签，如“高级研究员”或“专业撰稿人”。角色决定了Agent的思维框架。Goal（目标）：Agent要达成的终极目的，如“针对指定主题搜索并收集最新资料”。目标是Agent决策的“北极星”。Backstory（背景故事）：Agent的“人设”，为其行为提供上下文。例如，“你是一位经验丰富的研究员，擅长从海量数据中提炼核心观点”。这三个要素共同塑造了Agent的行为模式，使其在不同场景下能够“进入角色”。

2026-09-09 13:29:07 78

原创第6篇：RAG系统的工程化落地 —— 缓存、限流、可观测性与私有化部署

当一个RAG系统部署到生产环境后，它会变成一个“黑盒”：用户发了问题，系统给出了答案，但没人知道中间发生了什么——检索到了什么文档、用了多少Token、为什么答案是那个样子的。因为缓存不主动加载数据，而是“靠边站”，由应用代码主动决定何时读缓存、何时写缓存。Agent系统的LLM调用直接关联成本，没有限流的API就像一个没有水表的消防栓——一旦被恶意调用，Token账单会迅速失控。当RAG系统服务于多个用户或团队时，必须保证每个用户的文档相互隔离——用户A上传的文档，用户B不应该能检索到。

2026-09-07 09:52:50 202

原创第5篇：检索效果优化实战 —— 从向量检索到混合检索与Rerank

如果你的RAG应用总是答非所问，很可能不是LLM的问题，而是检索阶段没有找到正确的文档块。当用户搜索一个罕见的专有名词（如“Transformer的FFN层”）时，向量检索可能找不到精确匹配的文档，而关键词检索（BM25）能精确命中。很多RAG项目的调试经历是这样的：用户上传了10份技术文档，然后提问，LLM给出的答案看起来"很有道理"，但仔细一查，答案中引用的文档块和问题根本不相关——模型在利用自己的知识"编造"了一个看似合理的回答。它不消耗额外的Token，不增加API调用，仅仅改变文档被切割的方式。

2026-08-10 12:34:55 364

原创第4篇：RAG系统架构设计 —— 从文档上传到智能问答的全链路

RAG（检索增强生成）是Agent获取外部知识最核心的手段，也是当前Agent系统中应用最广泛的技术之一。本文从零开始设计一个完整的RAG知识库问答系统，涵盖文档解析、文本分块策略、向量化存储以及检索-生成的全链路架构，通过清晰的模块划分展示可扩展的系统设计。这种清晰的边界划分使得系统易于扩展——当你需要替换向量数据库时，只需要修改Layer 3的实现，其他层不受影响。这样，答案基于检索到的真实信息，而非模型记忆中的“二手知识”。检索层的核心任务是将用户问题转换为向量，在向量数据库中查找最相似的文档块。

2026-07-20 09:32:05 314

原创第3篇：FastAPI依赖注入深度解析 —— 从原理到源码

FastAPI的依赖注入系统之所以强大，是因为它将Python语言本身特性（函数、yieldDepends是信号，不是默认值：它告诉框架“这个参数需要被注入”，而不是“如果没传就用这个值”依赖树递归解析：FastAPI在请求时动态构建依赖图，深度优先执行所有依赖yield依赖是资源管理：利用生成器的暂停/恢复特性，在yield前后分别执行“进入”和“退出”逻辑，finally保证清理代码必定执行去重缓存优化：同一请求中相同依赖只执行一次，避免重复开销与Spring的差异。

2026-07-17 11:00:37 347

原创第2篇：异步编程精要 —— Agent开发的并发基石

当多个用户同时向你的Agent服务发送请求时，如果使用同步模型，每个请求会独占一个线程，线程数随并发用户量线性增长，最终导致系统崩溃。这一行时，整个进程会被“挂起”——它只能傻等网络数据包从远端服务器传回来，期间CPU处于空闲状态。的运行时机制，并通过真实的压测数据，揭示异步并发如何将Agent系统的吞吐量提升数倍。，总耗时将从“三者之和”变成“三者之中最慢的那个”——这就是异步编程最直接的价值。理解了基础概念后，我们来看这两行经典的并发代码。在同步编程模型中，代码的执行顺序就是代码的书写顺序。

2026-07-13 09:17:16 368

原创第1篇：Agent开发全景图 —— 从零构建完整的技术认知框架

在纯粹的LLM应用时代，我们与模型的交互模式是“输入——输出”的单次问答。模型像一个无所不知但被困在瓶子里的精灵，你问它答，但它无法主动采取行动、无法查阅最新资料、也无法记住你上周说过什么。AI Agent（智能体）则打破了这层屏障。它不再是简单的“文本生成器”，而是一个能够自主规划、调用工具、记忆上下文并与环境交互的智能实体。Agent = LLM（大脑） + 规划（Planning） + 记忆（Memory） + 工具（Tools）给它一个身份（Role）

2026-06-25 13:56:07 386

原创 AI_深度学习-4.大模型（LLM）入门

加载模型 → 推理 → 微调，pipeline一行代码实现推理，Trainer低代码微调。常用任务：情感分析、文本生成、问答、NER、文本摘要、翻译。微调流程：加载模型 → 数据分词 → 设置训练参数 → Trainer 训练 → 保存与推理。LangChain：快速构建 LLM 应用，支持提示模板、链式调用、文档检索（RAG）。RAG（检索增强生成）：将外部文档向量化后存入数据库，LLM 根据检索结果回答问题，减少幻觉。大模型落地 = 加载 + 推理 + 微调 + 应用链。

2026-06-25 13:53:46 161

原创 AI_深度学习-3.经典模型入门

CNN：卷积提取特征 → 池化降维 → 全连接分类。ResNet + 迁移学习：图像分类任务的工业界首选，大幅提升小数据集性能。

2026-06-22 16:12:15 222

原创 AI_深度学习-2.深度学习基础概念

激活函数：隐藏层用 ReLU（默认首选），多分类输出层用 Softmax。训练流程：前向传播 → 计算 loss → 反向传播 → 更新参数（梯度下降）。关键超参数：学习率（步长）、Epoch（轮数）、Batch（批量大小）。过拟合应对：Dropout、Batch Normalization、早停、数据增强、正则化。所有深度学习模型都遵循这套原理，理解本章是看懂一切模型的基础。

2026-06-17 14:07:27 227

原创 AI_深度学习-1.PyTorch基础

Tensor= 支持 GPU 的数组，类似 NumPy。自动微分：设置，调用backward()自动计算梯度。构建网络：继承nn.Module，实现forward()，使用nn.Linearnn.Conv2d等层。损失函数：回归用MSELoss，多分类用，二分类用。优化器optim.SGDoptim.Adam，训练时→backward()→step()。训练循环：前向传播 → 计算 loss → 反向传播 → 更新参数。模型保存：推荐保存state_dict，加载后调用。一套模板走天下。

2026-06-16 08:50:32 177

原创 AI_机器学习-5.机器学习概述

有大量标注数据→ 监督学习（或深度学习做监督）只有无标注数据→ 无监督学习（聚类/降维）或半监督学习（如果少量标注可行）标注成本高，但有无标注数据→ 半监督学习任务需要序列决策，有环境交互→ 强化学习（可结合深度学习成为深度强化学习）数据量大、问题复杂（图像、语音、文本）→ 深度学习（可能结合监督/无监督/强化）

2026-06-12 09:07:35 418

原创 AI_机器学习-4.核函数扩展

方法核心任务核函数角色典型样本规模输出形式核岭回归 (KRR)非线性回归定义特征空间内积n<10^4点预测核逻辑回归 (KLR)非线性概率分类同上n<10^4类别概率核主成分分析 (KPCA)非线性降维捕捉数据流形n<10^4低维嵌入核 K‑Means非线性聚类使簇线性可分n<10^4簇标签高斯过程 (GP)贝叶斯回归/分类定义先验协方差n<2000均值+方差多核学习 (MKL)自动核组合融合异构相似度中等（取决于基核数）模型及权重。

2026-06-11 08:58:09 213

原创 AI_机器学习-2.Scikit-learn实战

标准化（Standardization）：是一种数据预处理方法，将原始数据按特征列转换为均值为0、标准差为1的分布。其计算公式为：x 是原始特征值\mu 是该特征列的均值\sigma 是该特征列的标准差标准化后的数据服从标准正态分布（但不要求原始数据为正态分布）。问题答案标准化做了什么？将每个特征的均值变为0，标准差变为1为什么需要？消除量纲影响，加速收敛，公平正则化，满足算法假设数据性质变化？均值、标准差改变，但相关性、顺序、分布形态不变标准差如何计算？

2026-06-10 10:23:18 258

原创 AI_机器学习-3.核函数基础

核函数核心公式关键参数最佳场景线性x_i^Tx_jC高维稀疏、线性可分多项式已知阶数、小样本RBF\gamma, C非线性问题默认首选拉普拉斯\gamma, C含噪声数据卡方\gamma, C直方图、非负特征直方图交无图像分类、直方图匹配Matern复杂（含贝塞尔函数）\nu,\rho高斯过程、空间统计掌握核函数的原理、数学形式和选择策略，是解决复杂非线性问题的关键。在实践中，建议从 RBF 核开始，结合交叉验证调优，并根据数据特性尝试更专门的核函数。

2026-06-09 09:14:26 389

原创 AI_机器学习-1.机器学习基础概念

特征（Feature）：输入变量，用于预测的属性（X）标签（Label）：输出变量，需要预测的目标（y）训练集（Train Set）：用于模型学习规律的数据测试集（Test Set）：用于评估模型泛化能力的数据（从未见过的新数据）针对分类任务，评估指标主要用来衡量模型预测的准确程度。选择哪个指标，取决于具体问题（例如是否类别不平衡，更关注哪类错误）。所有指标都建立在混淆矩阵的基础上。业务目标首选指标类别均衡，看整体正确率准确率不能漏掉正例（如癌症筛查）召回率。

2026-06-08 10:02:03 397

原创 AI_Python基础-11.Matplotlib & Seaborn（可视化）

Matplotlib：底层绘图库，灵活性高，适合精细控制图表。Seaborn：高级封装，语法简洁，内置漂亮样式和统计功能。常用图形折线图：趋势散点图：相关性柱状图：比较直方图：分布箱线图：统计摘要热力图：矩阵数据pairplot：多变量关系美化要素：标题、标签、图例、颜色映射、网格、样式主题、去除多余边框。子图布局创建多子图，自动调整间距。实战流程：数据加载 → 数据处理 → 计算指标 → 绘制图表 → 美化 → 结论分析。

2026-06-05 09:18:23 221

原创 AI_Python基础-10.Pandas

Series：一维带标签数组；DataFrame：二维表格，类似 Excel。数据读取read_csvread_excelread_json，注意编码和参数。数据清洗dropnafillna处理缺失值；去重；条件过滤处理异常值。筛选loc（标签/条件）、iloc（位置）、布尔索引（df[条件]分组聚合groupby()agg()或，可自定义函数。合并concat拼接（行/列）；merge按键连接（内/左/右/外）。透视表实现数据透视，支持多级索引和边际统计。

2026-06-04 08:56:36 221

原创 AI_Python基础-9.NumPy

ndarray：同质多维数组，核心属性shapedtypendimsize。创建方式np.array()np.zeros()np.ones()等。索引与切片：基本索引、切片（返回视图）、布尔索引（返回副本）、花式索引（返回副本）。广播机制：形状兼容的数组可直接运算，自动扩展维度，规则清晰。通用函数（ufunc）np.sqrt()np.exp()np.sin()等，逐元素高效计算。数组运算：元素级算术运算；矩阵乘法用或np.dot()；统计方法可指定axis。线性代数np.linalg。

2026-06-03 10:09:05 351

原创 AI_Python基础-8.并发编程基础

GIL：CPython 的全局解释器锁，导致多线程无法利用多核 CPU。多线程：适合 IO 密集型任务，注意线程安全（使用锁），可用。多进程：适合 CPU 密集型任务，绕过 GIL，进程间通信使用Queue或Pipe，可用。异步 IO：单线程高并发，使用asyncio+ 异步库（如aiohttp），代码复杂但效率极高。选择原则：CPU 密集型 → 多进程；IO 密集型 → 多线程或 asyncio（高并发选 asyncio）。实战技巧：生成器处理大文件，装饰器计时，多进程可进一步优化日志分析效率。

2026-05-28 10:51:01 402

空空如也

空空如也