自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(48)
  • 收藏
  • 关注

原创 Human-in-the-loop:什么时候需要人工介入

本文讨论 LangGraph 中 Human-in-the-loop 的设计,说明哪些场景需要人工介入,以及如何把高风险判断、确认和审核放进 Agent 流程。

2026-07-21 10:06:01 361

原创 Tool Node:如何把外部工具接入 LangGraph

本文围绕 LangGraph 的 Tool Node 展开,说明 Agent 如何接入搜索、数据库、文件读写等外部工具,并讨论工具调用结果如何回写 State。

2026-07-21 10:03:11 292

原创 Reducer 是什么?多个节点如何安全更新状态

本文讲解 LangGraph 中 Reducer 的作用,说明多个节点更新同一份 State 时为什么需要明确合并规则,并分析覆盖、追加和自定义合并的使用边界。

2026-07-21 09:58:27 254

原创 Edge 和 Conditional Edge:让流程根据状态分支

本文从 LangGraph 的 Edge 和 Conditional Edge 入手,说明普通边和条件边如何决定节点之间的流转,以及为什么流程分支应该交给图结构,而不是塞进单个节点。

2026-07-21 09:55:40 279

原创 Node 怎么设计?每个节点都应该有明确职责

本文从 LangGraph 的 Node 设计入手,说明为什么每个节点都应该职责单一、输入输出边界清晰、命名明确,并把可测试性和可观测性一起纳入设计。

2026-07-21 09:52:09 329

原创 State 是什么?LangGraph 里最重要的不是节点

本文围绕 LangGraph 的 State 展开,说明状态如何决定节点边界、流程路由、可恢复能力和问题排查。

2026-07-19 21:16:51 172

原创 从 Chain 到 Graph:为什么线性流程不够用了

本文讨论从 Chain 到 Graph 的工程演进,说明为什么复杂 Agent 流程需要分支、循环、状态和恢复能力。

2026-07-19 21:15:29 179

原创 LangGraph 和 LangChain 有什么区别?

本文对比 LangGraph 和 LangChain 的定位,说明二者不是替代关系,而是组件组合与流程编排的不同层次。

2026-07-19 21:14:00 196

原创 LangGraph 是什么?为什么 Agent 需要图结构

本文从普通 LLM 调用、Chain 和 Agent Workflow 的区别出发,说明 LangGraph 为什么用图结构管理复杂 Agent 流程。

2026-07-19 21:12:58 236

原创 从普通 RAG 到企业级 RAG:完整架构复盘

本文作为 RAG 实战进阶系列收官,复盘一个 RAG 系统从 Demo 到企业级应用需要补齐的数据、检索、生成、权限、评测、成本和可观测性能力。

2026-07-19 20:56:56 358

原创 RAG 上线后怎么排查问题?日志与可观测性

RAG 上线后,日志、指标和链路追踪要先搭好,才能快速定位检索和生成问题。

2026-07-18 10:15:03 147

原创 RAG 如何降低成本?缓存、摘要和分层检索

RAG 降成本的关键,在于缓存、摘要、分层检索和上下文控制一起配合。

2026-07-18 10:14:23 260

原创 多模态 RAG:图片、截图、表格也能检索吗?

多模态 RAG 需要把图片、截图和表格纳入同一套检索链路,而不是只处理纯文本。

2026-07-18 10:13:26 286

原创 RAG 如何处理 PDF、Word、Excel 和网页?

真实知识库常见 PDF、Word、Excel 和网页混合存在,解析质量会直接影响后续切分、检索和生成。

2026-07-18 10:12:48 313

原创 RAG 如何做多租户?企业知识库不能混在一起

RAG 多租户的核心是先识别租户,再做检索,避免知识库串租户和数据混用。

2026-07-18 10:10:34 229

原创 Agentic RAG 是什么?让 Agent 决定什么时候检索

本文围绕 Agentic RAG 展开,说明它如何让系统在受控边界内动态决定是否检索、检索什么、是否多轮检索,并分析其工程价值、风险和落地方式。

2026-07-17 15:55:01 371

原创 GraphRAG 是什么?为什么知识图谱又回来了

本文围绕 GraphRAG 展开,说明普通 RAG 在跨文档关系、实体关联和全局知识结构问题上的边界,并梳理 GraphRAG 的适用场景、工程链路和落地注意事项。

2026-07-17 15:50:50 226

原创 RAG 如何处理复杂问题?查询改写与多步检索

本文围绕 RAG 复杂问题处理展开,说明为什么真实用户问题不能总是直接检索,并从 Query Rewrite、Multi-query Retrieval、问题拆分、多步检索、追问机制、日志记录和评估方法等角度梳理可落地的工程方案。

2026-07-16 21:02:09 313

原创 RAG 的 Prompt 应该怎么写?不要让模型自由发挥

本文围绕 RAG Prompt 的工程设计展开,说明为什么不能只写“根据资料回答”,并从资料约束、拒绝幻觉、来源引用、冲突处理、输出格式和模板版本管理等角度梳理可落地的 Prompt 设计方法。

2026-07-16 20:54:35 391

原创 Rerank 为什么重要?RAG 不只是把 TopK 塞给模型

本文围绕 RAG 中的 Rerank 展开,说明为什么 TopK 检索结果不能直接等同于最终上下文,并从召回分数局限、Hybrid Search 后的候选排序、上下文压缩、成本控制和效果评估等角度梳理 Rerank 的工程落地思路。

2026-07-14 15:10:13 290

原创 RAG 检索质量怎么提升?从关键词到 Hybrid Search

本文围绕 RAG 检索质量提升展开,说明为什么只靠向量检索不够,并从关键词检索、BM25、Hybrid Search、多路召回、结果合并、Rerank 和真实问题集评估等角度梳理可落地的检索优化思路。

2026-07-14 14:47:47 317

原创 向量数据库到底解决什么问题?它不是 RAG 的全部

本文围绕 RAG 系统中的向量数据库展开,说明它主要解决向量存储、相似度检索、索引加速和 metadata 过滤等问题,同时强调向量数据库不是 RAG 的全部,不能替代文档质量、切分策略、检索优化和生成约束。

2026-07-14 14:36:30 365

原创 Embedding 模型怎么选?不要只看向量维度

本文围绕 RAG 系统中的 Embedding 选型展开,说明为什么不能只看向量维度,并从中文效果、领域术语、内容类型、召回质量、成本、速度、模型切换和评测集等角度给出实践建议。

2026-07-14 14:17:16 367

原创 文档切分怎么做?Chunk 不是越小越好

本文围绕 RAG 系统中的文档切分展开,说明 Chunk 为什么不是越小越好,并从固定字数、overlap、标题层级、列表、表格、代码块和长文档等角度梳理可落地的切分思路。

2026-07-13 14:37:42 298

原创 RAG 的基本流程:Query、Embedding、Retriever、Generator 是怎么串起来的?

本文从 Query、Embedding、Retriever、Generator 四个模块拆解 RAG 的最小闭环,说明知识库问答从用户提问到检索、生成答案的完整流程,以及为什么最小闭环能跑但还不等于生产可用。

2026-07-13 14:28:00 420

原创 为什么很多 RAG 知识库问答不好用?

很多 RAG 知识库问答系统能跑 Demo,却很难稳定、准确、可信地上线。本文从检索、生成、引用、数据治理和可观测性角度,拆解 RAG 不好用的常见原因。

2026-07-13 14:20:17 346

原创 AI Scaffold 系列收官:从脚手架到 AI 应用工程化体系

AI Scaffold 系列从“为什么 AI 应用需要脚手架”开始,逐步讨论了项目结构、配置管理、LLM 抽象、Prompt、Workflow、Agent、Tool、Repository、Memory、日志、安全、部署、实战应用、生态关系和开源化。本文作为系列收官,不再展开新的路线,而是回到主线本身:AI 应用为什么不能只停留在 Demo,脚手架真正解决了哪些工程化问题,以及这一系列文章最终想沉淀什么。

2026-07-13 10:32:53 475

原创 如何把 AI Scaffold 做成开源项目?从 README 到 Roadmap

一个 AI 脚手架项目要真正开源,不能只是把代码上传到 GitHub。它需要清晰的 README、可运行的示例、明确的安装方式、合理的目录结构、Issue 规范、版本路线图和贡献说明。本文从 AI Scaffold 的角度出发,讨论一个 AI 应用工程化脚手架如何从“个人项目”走向“可被别人理解、试用、反馈和参与”的开源项目。

2026-07-13 10:00:44 335

原创 AI Scaffold 如何做 AI 应用评测?从 Prompt 调试到回归测试

AI 应用不能只靠“看起来能回答”来判断质量。随着 Prompt、RAG、Workflow 和 Agent 能力不断迭代,项目很容易出现隐性退化。本文从 AI Scaffold 的工程化视角出发,讨论 AI 应用评测应该评什么、怎么组织目录、如何沉淀测试用例,以及如何把 Prompt 调试、RAG 检查和回归测试变成可持续的开发流程。

2026-07-12 16:13:07 417

原创 AI Scaffold 和 LangChain、LangGraph 是什么关系?

很多开发者看到 AI Scaffold 时,都会问:既然有 LangChain 和 LangGraph,为什么还需要脚手架?本文从工程化分层角度出发,讨论 LangChain、LangGraph 和 AI Scaffold 各自解决什么问题,它们为什么不是替代关系,以及在真实 AI 应用项目中应该如何组合使用。

2026-07-12 15:58:27 398

原创 用 AI Scaffold 做一个智能客服应用:从 RAG 到人工兜底

智能客服是很多企业最容易想到的 AI 应用场景,但它不能简单理解为“给大模型套一个聊天窗口”。真正可用的智能客服系统,需要同时处理知识库检索、多轮对话、用户上下文、Tool Calling、会话记录、低置信度兜底、人工转接、日志追踪和安全治理等问题。本文从 AI Scaffold 的工程化视角出发,拆解一个智能客服 AI 应用应该如何设计,说明如何用脚手架把 Chat API、RAG 检索、Workflow 编排、Repository 存储、Tool 调用、人工兜底和可观测性组织成一个可维护、可扩展的系统。

2026-07-12 15:43:20 231

原创 用 AI Scaffold 做一个文档分析应用:从上传文档到生成报告

文档分析是一个非常适合作为 AI 应用实战入口的场景。它既不像完整智能客服那样复杂,又能自然串起文件上传、文本解析、内容分段、Prompt 管理、LLM 调用、Workflow 编排、Repository 存储、日志追踪、安全校验和报告生成等工程化能力。本文从 AI Scaffold 的视角出发,拆解一个文档分析 AI 应用应该如何设计,从需求边界、项目结构、核心模块、工作流节点、数据模型、异常处理到部署关注点,说明如何把一个“让模型总结文档”的 Demo,升级成一个可维护、可扩展、可上线的 AI 应用。

2026-07-12 15:33:10 220

原创 AI Scaffold 项目怎么部署?从本地运行到生产环境

AI 应用在本地跑通,只能说明 Demo 可用,并不代表它已经具备上线条件。真正进入生产环境后,系统需要面对环境变量、API Key、数据库连接、日志目录、Docker 镜像、健康检查、模型调用超时、Token 成本、Tool 调用失败、Workflow 中断和监控告警等问题。本文从 AI Scaffold 的工程化视角出发,讨论一个 AI 应用项目从本地运行走向生产环境时,部署结构应该怎么设计,Dockerfile、环境变量、启动命令、日志、健康检查和发布流程应该如何组织。

2026-07-12 15:24:53 479

原创 AI Agent 为什么需要安全治理?Tool 调用不能没有权限边界

当 AI 应用只是回答问题时,安全问题主要集中在 API Key、用户输入和接口鉴权。但当 Agent 可以调用 Tool、读取 Memory、访问数据库、请求外部接口甚至执行写操作时,安全边界就变得复杂得多。本文从 AI 应用工程化角度出发,讨论为什么 Agent 不能天然可信,Prompt Injection 会带来什么风险,Tool 白名单、权限分级、参数校验、审计日志和高风险操作二次确认应该如何设计,以及 AI Scaffold 中可以如何构建安全治理模块。

2026-07-11 10:24:36 162

原创 AI 应用上线后怎么排查问题?日志与可观测性应该这样设计

AI 应用上线后的问题,往往不只是代码异常,还可能来自 Prompt 变化、模型响应不稳定、RAG 检索结果偏差、Tool 调用失败、Workflow 节点中断、Agent 步骤失控、Token 成本异常或用户输入不可控。如果没有日志和可观测性,问题很难复盘。本文从 AI 应用工程化角度出发,讨论为什么简单 print 不够,AI 应用应该记录哪些日志,哪些内容不能直接记录,以及 AI Scaffold 中可以如何设计日志、追踪、指标和脱敏模块。

2026-07-11 10:12:50 594

原创 AI 应用里的 Memory 应该怎么设计?不要把聊天记录等同于记忆

很多人一提到 AI 应用的 Memory,就会直接想到聊天记录。但在工程项目里,Memory 不只是把历史对话塞回 Prompt,它还涉及短期上下文、长期偏好、任务经验、项目知识、向量检索、记忆筛选、过期策略和隐私边界。本文从 AI 应用工程化角度出发,讨论 Memory 和聊天记录有什么区别,短期记忆、长期记忆、向量记忆分别解决什么问题,以及 AI Scaffold 中可以如何设计一套可控、可删除、可审计的记忆模块。

2026-07-11 10:02:51 487

原创 AI 应用为什么也需要 Repository 层?不要让 Agent 直接操作数据库

很多 AI 应用一开始只关注模型调用、Prompt、Agent 和 Tool,但真正进入项目落地后,很快就会遇到会话、任务、文档、日志、工具调用记录、模型输出结果等数据管理问题。如果这些数据读写散落在 Workflow、Agent 或 Tool 里,项目会越来越难维护。本文从 AI 应用工程化角度出发,讨论为什么 AI 应用也需要 Repository 层,Repository 应该负责什么,不应该负责什么,以及 AI Scaffold 中可以如何设计数据访问模块。

2026-07-11 09:50:45 339

原创 AI 应用里的 Tool 怎么设计?让 Agent 有行动能力但不失控

Agent 想要完成真实任务,通常不能只依赖模型生成文本,还需要调用 Tool 来读取文件、查询数据库、检索知识库、调用业务接口或执行特定动作。但 Tool 不是随便写几个函数交给模型调用,它应该是一套有名称、有描述、有输入输出 schema、有权限边界、有超时控制和调用日志的能力接口。本文从 AI 应用工程化角度出发,讨论为什么 Agent 需要 Tool,Tool 和普通函数有什么区别,如何设计 Tool 的结构、权限、日志和错误处理,以及 AI Scaffold 应该如何组织工具调用模块。

2026-07-11 09:34:09 394

原创 Agent 到底是什么?在 AI 应用脚手架里应该怎么设计

Agent 是 AI 应用开发里非常热门的概念,但在工程项目中,Agent 不应该被理解成“什么都能自动完成的魔法”。更合理的理解是:Agent 是围绕目标、上下文、工具和执行策略的一层任务调度机制。本文从 AI 应用工程化角度出发,讨论 Agent 和普通 LLM 调用有什么区别,Agent 和 Workflow 有什么区别,Agent 的核心组成包括哪些,为什么 Agent 需要边界、权限、超时和失败兜底,以及 AI Scaffold 应该如何设计一个可控、可扩展的 Agent 层。

2026-07-10 15:13:56 272

原创 AI 应用为什么需要 Workflow?不要把复杂任务写成一串函数调用

很多 AI 应用一开始只是调用一次模型,但随着功能变复杂,任务会逐渐变成多个步骤协作:输入清洗、Prompt 渲染、模型调用、结果校验、工具调用、失败重试、条件分支和最终输出。如果这些逻辑全部写成一串函数调用,代码很快就会变得难维护。本文从 AI 应用工程化角度出发,讨论为什么需要 Workflow,Workflow 应该解决哪些问题,常见节点如何设计,状态如何在节点之间流转,以及 AI Scaffold 为什么需要工作流层来组织复杂 AI 任务。

2026-07-10 15:03:06 161

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除