- 博客(137)
- 资源 (3)
- 收藏
- 关注
原创 用一张时序图 讲清楚 Agent 一次完整 tool call -> tool result -> model resume 为什么更适合 Streamable HTTP
更适合能流式返回模型过程:例如 reasoning、delta、状态变更能传结构化协议消息:例如 tool call、call_id、arguments、resume signal能与普通 HTTP 动作自然协同:例如提交 tool result、取消、查询最终态能作为跨浏览器、CLI、IDE、服务端的统一协议基座SSE:更适合前端消费的事件流:更适合 Agent 会话级协议编排。
2026-06-24 11:46:36
381
原创 MCP / AI Agent 场景 为什么现在很多框架从 SSE 转向 Streamable HTTP
SSE 时代:重点是“把模型输出实时显示出来”Streamable HTTP 时代:重点是“把 Agent 协议稳定、统一、可扩展地传输出来”前者偏 UI streaming,后者偏 protocol streaming。一种更中立的 HTTP 流式承载层一套可演进的结构化消息协议更好的跨语言、跨宿主兼容性更自然的服务间调用和 SDK 抽象更方便承载 tool call、delta、state、error、resume 等 Agent 原语所以这不是简单的“谁性能更高”,而是。
2026-06-24 11:43:12
320
原创 SSE 和 Streamable HTTP
SSE和都与基于 HTTP 的流式传输有关,但它们不是同一层面的概念。SSE:是一种具体的浏览器/HTTP 推送技术标准,全称。:通常指可流式返回数据的 HTTP 交互方式,更偏向一种能力描述或设计模式,而不是像 SSE 那样严格、单一的浏览器标准。SSE是一种“如何流”的标准方案。是“HTTP 请求/响应可以边生成边返回”的更宽泛能力,其中可以用 SSE,也可以不用 SSE。SSE 的全称是,即服务器向客户端单向持续推送事件的机制。
2026-06-24 11:39:09
355
原创 langchain 与 langgraph
① 线性任务选LangChain提速,复杂流程用LangGraph保稳。技术选型没有最好,只有最适配:流水线处理即时需求,状态机驾驭复杂世界。LangChain:DAG流水线,数据单向流动,状态瞬时销毁。LangGraph:循环图计算,全局持久化状态,支持时间旅行。代码修复/跨部门审批/需纠错任务→LangGraph。单次问答/RAG/文本翻译→LangChain。③ 开发前先画业务流程图,避免后期架构重构。强容错/逻辑灵活→LangGraph。流程固定响应快→LangChain。
2026-05-24 22:39:39
60
原创 用大白话解析10个AI核心概念
RAG 是一种把信息检索和大模型生成结合起来的方案,模型先从外部知识库取回相关内容,再基于这些内容生成更准确的回答。“MCP 是为大模型和外部工具之间交互设计的一套标准协议,目的是统一上下文和工具调用方式,让模型更容易接入不同系统。“Token 是大模型在训练和推理时用来切分和计算文本的基本单位,输入和输出通常都是按 token 计费和计长的。“CoT 的核心思想是让模型不要直接给结论,而是先分步骤思考,这样通常能提高复杂推理、数学题和逻辑问题的准确率。
2026-04-23 16:54:21
284
原创 Encoder-only、Decoder-only、Encoder-Decoder 到底长什么样
Encoder-Decoder | Encoder 全看,Decoder 生成 | 很适合 | T5 |- Decoder 一边看自己已经生成的内容,一边看 Encoder 给的编码结果。| Decoder-only | 只看左边 | 最擅长 | GPT、LLaMA || Encoder-only | 左右都看 | 不擅长长生成 | BERT || 结构 | 看输入方式 | 会不会自然生成 | 代表模型 |- Encoder-Decoder:先读懂,再翻译/改写/生成。
2026-04-20 18:43:16
244
原创 GPT、BERT、LLaMA 这些模型类别怎么区分
LLaMA | Decoder-only | 下一个词预测 | 和 GPT 类似,偏生成、推理、私有化 || GPT | Decoder-only | 下一个词预测 | 对话、写作、代码、生成 || BERT | Encoder-only | 掩码预测 | 分类、匹配、抽取、检索 |- LLaMA:本质上也是 GPT 这一路,只是是一个重要的开源/开放权重模型家族。- LLaMA:GPT 路线里的一个代表性模型家族。| 类别 | 结构 | 训练方式 | 擅长 |- 做问答、总结、生成:GPT。
2026-04-20 18:28:01
265
原创 企业知识库问答系统的详细架构图
Confluence / SharePoint / 钉盘 / 飞书文档 / Git / Wiki / PDF / Word / 工单 / FAQ。用离线建库把企业知识加工干净,用在线 RAG 把正确资料在正确权限下找出来,再由模型生成带引用、可审计、可治理的答案。格式解析 / OCR / 去重 / 清洗 / 分段 Chunk / 标题层级抽取 / 表格处理 / 图片说明抽取。部门 / 系统 / 文档类型 / 更新时间 / 作者 / ACL / 标签。- 支持网页、IM 机器人、内部平台嵌入、API 调用。
2026-04-20 17:11:14
528
原创 企业 AI 应用完整技术架构图:模型、RAG、Agent、工作流怎么放在一起
工具调用 | | 上下文拼装 | | ERP/CRM/DB/Git || 多步决策 | | 引用来源 | | 工单/测试平台 || 任务拆解 | | 检索/召回/重排 | | API/脚本/系统能力 || 观测 / Tracing / Eval / 安全 / 脱敏 / 权限 || 重试 / 超时 / 审批 / 回滚 / 任务编排 / 成本控制 |
2026-04-14 19:22:38
482
原创 关于 RAG 的十个核心问题
用 Cross-Encoder 对检索结果做精排,准确率提升 30-50%:从 Word2Vec 到 BERT 再到 BGE-M3,技术不断演进。:向量检索 + BM25 混合检索,效果比单路好 10-30%:检索增强生成,给大模型「开卷考试」,让它的回答基于真实文档。:RAG 是降低幻觉的核心手段,但不能完全消除,需要组合策略。:微调是「内化知识」,RAG 是「外挂参考书」,两者互补。:分索引阶段(离线建库)和查询阶段(在线检索+生成):从固定大小到语义切割,推荐先用递归字符切割起步。
2026-04-14 19:21:32
44
原创 做企业 AI 应用时,这四类模型该怎么落地选型
企业 AI 应用里,这四类模型通常不是四选一,而是分工协作。最常见的落地方式是:- GPT 类:做主助手、问答、总结、生成、Agent- LLaMA 类:在需要私有化/开源可控时,承担 GPT 类角色- BERT 类:做分类、过滤、路由、匹配、排序- T5 类:做翻译、改写、摘要、结构化文本转换这类明确的 seq2seq 任务。
2026-04-14 18:22:32
320
原创 为什么现在大模型时代 BERT 声量变小了
而是因为行业主战场从“理解几个固定任务”变成了“一个模型处理尽可能多的生成与交互任务”,而这个舞台更适合 GPT 类模型。行业关注点从“单点理解任务”转到了“通用生成与智能体能力”,而这正好不是 BERT 最擅长的方向。很多企业内部系统里,BERT 类模型其实还在稳定干活,只是不像大模型那样“显眼”。BERT 很强,但它的强项不容易被普通人直接感知。3. BERT 不擅长“看得见的惊艳能力”BERT 声量变小,不是因为它突然不行了,BERT 没消失,但不再站在舞台中央。但要注意:声量变小,不等于没用了。
2026-04-14 18:16:12
276
原创 BERT、GPT、T5、LLaMA 这几类模型到底有什么区别
T5 | Encoder-Decoder | Text-to-Text | 翻译、摘要、问答、生成式任务 || LLaMA | Decoder-only | 自回归生成 | 和 GPT 类似,偏生成和通用推理 || GPT | Decoder-only | 自回归预测下一个词 | 对话、写作、代码、生成 |- 它不是和 GPT 平级的“另一种结构”,而是 GPT 这一路架构里的一个重要模型家族。| BERT | Encoder-only | 双向理解 | 分类、匹配、抽取、检索 |
2026-04-14 18:14:04
277
原创 AI 框架LangChain | Dify | n8n | Coze 简介
官方来源:Dify Docs (https://docs.dify.ai/en/use-dify/getting-started/introduction) / Dify Key Concepts (https://docs.dify.ai/en/use-dify/getting-started/key-concepts) /| 强项 | 灵活、可编程、集成多 | RAG、Workflow、发布、运营一体化 | 系统集成、流程自动化、治理 | 快速搭 Agent、工作流、知识库 |
2026-04-14 14:10:21
395
原创 讲一讲agent、 langchain、 大模型 、skill、 rag 之间的关系
用来把大模型、RAG、tools、agent、memory 这些东西串起来。- 一个 skill 里面可能包含提示词、规则、代码、工具调用,甚至 RAG。- 例如:查订单、分析日志、写测试用例、从知识库检索。- 负责理解语言、推理、生成答案、写代码、总结内容。可以把它们看成一套从“底层能力”到“上层应用”的关系。- 可以理解成“某个专长”或“某个标准动作包”。- LangChain 负责“把这些部件搭起来”- Agent:真正接任务、决定怎么做事的员工。- Agent:会调用能力、会做决策的执行者。
2026-04-13 20:09:24
170
原创 自动测试平台里的智能编排到底怎么设计
根据代码变更、风险、资源和历史数据,动态决定测试怎么跑、跑到哪、失败怎么处理,并把整个流程稳定地组织起来。这里就很适合引入 AI 或 Agent,尤其是分析日志、错误栈、历史失败模式。自动测试平台最适合讲智能编排,因为它天然就是“多系统、多步骤、多异常”的场景。这里最关键的是 编排中心,它不是简单任务队列,而是总控脑。这整套“判断 + 调度 + 执行”的东西,就是智能编排。如果一个测试平台只能“触发执行”,它还不算智能编排。任务做到哪一步、失败如何恢复,必须明确。没有归因能力,平台永远只是“高级脚本”。
2026-04-13 20:06:21
107
原创 什么时候该用 Workflow,什么时候该上 Agent,什么时候必须加智能编排
不是越“智能”越好,而是要把智能放在真正需要判断的地方,把流程控制权留在编排层。- 智能编排:后厨经理,负责排菜顺序、分配厨师、协调上菜、处理催单和缺料。如果你以后自己做系统,别一开始就说“我要做 Agent 平台”。但如果你开饭店,同时来 100 桌客人,就必须有编排。- 多流程、多角色、多策略统一协调:智能编排。所以如果只是炒一个青菜,可能不需要后厨经理。- 需要查资料、调接口、读日志、写报告。- 某些环节要自动,某些环节要人工确认。是 --> 用 Workflow。是 --> 直接用 AI 能力。
2026-04-13 20:03:32
316
原创 一张图把“智能编排、工作流、Agent、AI”之间的关系讲明白
决定什么时候走哪个流程,什么时候派哪个 Agent,上不上 AI,失败后怎么处理。智能编排不是在替代 Workflow、Agent、AI,而是在把它们组织起来,让系统既可控,又灵活。| 工作流 | | Agent 集合 || | AI 能力 || Workflow | | 一个或多个执行者 || | LLM/分类/推理/生成 || 工具 / API / 数据库 / 检索 / 系统 || 定义步骤顺序 | | 会思考、会调用工具|
2026-04-13 20:00:33
216
原创 智能编排是怎么回事?
智能编排,本质上就是:让系统像一个会判断的“调度员”,把人、工具、流程、数据按当前情况自动组织起来,决定“下一步该干什么、由谁来干、失败了怎么办”。“系统不是只会按按钮执行,而是会根据目标、上下文和规则,自动安排流程、选择工具、协调步骤,并对异常做处理。它不是一个单独的技术,而是一套“自动决策 + 自动调度 + 自动执行 + 自动反馈”的方法。记录结果,监控成功率,失败就重试、回滚、告警,下一次做得更好。真正去调用服务、模型、脚本、数据库、队列、机器人。智能编排就是把“稳定流程”和“灵活判断”结合起来。
2026-04-13 19:57:59
208
原创 测试物料生成
项目本质是一个**“前端对话入口 + FastAPI编排层 + 技能执行层”**的 AI/自动化平台,近几次迭代已经从“纯通用内容生成”偏向了 JD MKU/行云业务自动化。
2026-04-13 15:26:14
387
原创 AI测试用例检查
因此:日常从页面点「检查」时,主要是流式路径;兜底是非流式的「直接 LLM」路径。“真实生效”的主链路是 前端。→ SSE 回前端。
2026-04-13 14:33:24
382
原创 项目的框架架构
前后端完全解耦:HTTP API 作为唯一通信方式,前后端可以独立部署。清晰的分层:API(Controller)层:只负责“收请求 / 回响应”。Service 层:业务流程编排。Repository 层:数据访问抽象。Model 层:数据库结构映射。Agent 层:AI 能力模块化封装。可扩展性:新增一个业务域(比如“性能测试”)→ 新增一组,不影响已有模块。新增一种 Agent 或更换模型提供方 → 改agents与llms层即可。运维友好:专门的。
2026-03-13 15:44:23
433
原创 LLM、skill、agent、mcp 、四个关系。
• MCP(模型上下文协议):统一通信标准,像“USB接口”,让LLM/Agent安全、标准地连接外部工具/数据源。• Skill(技能):封装好的“做事方法”,把工具调用、参数、异常处理标准化,给LLM/Agent用。• Agent(智能体):完整AI系统,以LLM为大脑,整合感知、记忆、规划、工具调用,自主完成任务。3. Agent(系统整合层):顶层,把LLM、Skill、记忆、规划打包成可独立执行任务的智能体。• LLM(大语言模型):核心大脑,负责理解、推理、决策、生成语言。
2026-02-24 10:42:46
309
原创 各种和数据分析相关python库的介绍
Excel 2007及其以后的版本的最大行数是1048576,最大列数是16384,超过这个规模的数据Excel就会弹出个框框“此文本包含多行文本,无法放置在一个工作表中”。Pandas处理上千万的数据是易如反掌的事情,同时随后我们也将看到它比SQL有更强的表达能力,可以做很多复杂的操作,要写的code也更少。DataFrame是pandas的一个对象,它是一个面向列的二维表结构,且含有行标和列标。对于金融行业的用户,pandas提供了大量适用于金融数据的高性能时间序列功能和工具。
2025-12-02 20:56:24
399
原创 MCP是什么
MCP 作为通用接口,旨在高效获取模型所需上下文信息,推动大语言模型应用标准化与去中心化。它类似 OpenAPI 的开放标准,具备简化开发、灵活响应、安全合规、可扩展等特性,能统一处理本地和远程资源。MCP 标准化了应用向大语言模型提供上下文的方式,如同 AI 应用的 “USB-C 端口”,为模型连接各类数据源和工具提供统一标准。模型上下文协议(MCP)是 Anthropic 推出的开源协议,用于实现大语言模型与内外部数据源、工具的安全双向连接。
2025-06-06 10:14:43
417
原创 Python 错误 — 此环境由外部管理error: externally-manage(如何解决)
如果您要安装 Homebrew 中没有的 Python 库, 请使用虚拟环境: python3 -m venv path/to/venv source path/to/venv/bin/activate python3 -m pip install xyz 如果您要安装Homebrew中没有的 Python 应用程序, 最简单的方法可能是使用“pipx install xyz”,它将为您管理 虚拟环境。点击此处了解更多关于此行为的信息:<https://peps.python.org/pep-0668/>
2025-04-30 18:19:43
988
原创 查找占用端口的进程 PID
PID(例如 12345)就是占用 8080 端口的进程 ID。sudo kill -9 12345 # 替换为实际PID。kill -9 12345 12345替换为真实端口。1. 查找占用端口的进程 PID。2. 强制终止该进程。
2025-04-01 09:59:59
531
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅