- 博客(11)
- 资源 (2)
- 收藏
- 关注
原创 01 为什么长上下文没有淘汰RAG
在过去两年里一直有「RAG已死」的论调,到2026年了,RAG在实际业务中、研究论文里依然活跃。被淘汰的只有朴素RAG。结合实际生产业务经验,聊聊RAG存在的意义、为什么还没有被淘汰,以及还能活多久。
2026-08-29 15:28:06
297
原创 10 LLM不能治理自己:Agent安全架构的六层设计
Agent的核心引擎是概率性的,你不能靠提示词让它”永远遵守规则”。这篇文章拆解了一个六层安全架构,但更重要的是评估:哪些层是必须的,哪些是过度工程,小团队该从哪层开始。
2026-08-26 10:18:44
531
原创 09 给现有系统接入 Agent 能力:AgentBridge一个非侵入式的开源实践
文章摘要: 本文探讨了如何在现有业务系统中非侵入式地集成AI能力。作者提出AgentBridge框架,通过插件化设计在现有系统旁构建"桥梁层",避免重写核心代码。框架包含三层权限控制、审批流与幂等机制保障写操作安全,采用端口-适配器模式实现模型与知识库解耦,并提供全链路可观测性。文章展示了四种典型接入模式:只读查询、知识检索、结构化输出和审批写入,并建议利用AI编程助手辅助插件开发。该方案解决了老系统AI改造中面临的权限管理、审计留痕、运维管控等实际问题。
2026-08-14 19:34:03
424
原创 08 千人千面:Agent用户记忆与上下文管理
本文讨论了AI Agent实现个性化交互的关键——记忆管理,提出了三层记忆结构(工作记忆、短期记忆、长期记忆),并分析了主流开源方案的实现差异。作者指出,简单的对话历史存储无法满足业务需求,真正的挑战在于实现上下文感知的个性化响应。文章通过咖啡店顾客偏好的类比,阐述了如何通过记忆分层实现从"认识用户"到"理解用户"的进阶,并提供了上下文窗口优化、用户画像构建等实用建议,最终指向"Context Engineering"这一新兴领域的发展方向。(149字)
2026-08-05 13:45:40
509
原创 07 RAG架构设计:我踩过的坑和做过的取舍
本文分享了RAG系统在乡村产业监测业务中的实践经验和设计决策。作者从800+政策文档、15900+分块的实际需求出发,提出"5通道检索+3级策略+防幻觉体系"的混合架构。文章详细分析了五个关键设计决策:采用文档结构+固定长度的分块策略、构建多通道检索系统(全文/向量/表格/事实表/目录检索)、RRF融合排序与Rerank精排相结合的检索策略、基于上下文的动态裁剪组织方法,以及生成阶段的防幻觉控制机制。作者不仅总结了已验证有效的方案(如结构切分解决答案不完整问题),也坦诚分享了待验证的挑战(如文档量增长后的延
2026-08-05 13:43:52
321
原创 06 RAG从入门到生产:你需要知道的一切
本文是"AI Agent落地:业务系统智能化改造"系列第六篇,聚焦RAG(检索增强生成)技术。文章首先指出常见RAG系统效果不佳的原因在于将其简单视为"向量库+TopK检索",而实际上RAG是多环节管线的组合优化。全文系统介绍了RAG的定义、演进历程、核心组件、方案选型和常见优化方向。重点剖析了从Naive RAG到Advanced RAG(7层管线优化)再到Agentic RAG(动态检索决策)的技术演进路径,详细拆解文档处理、索引构建、查询增强等核心环节的关键技术选型,并针对生产环境中的典型问题提供优化
2026-08-04 11:38:38
357
原创 05 Agent编排:别再纠结选LangChain还是LangGraph了
本文探讨了AI Agent编排的核心问题,指出框架选择并非关键,关键在于对编排模式的理解与实践。首先通过厨具与菜谱的类比,阐明编排(流程设计)比框架工具更重要。其次分析了Workflow与Agent的区别,指出大多数生产系统处于两者之间的混合态。文章重点介绍了七种编排模式(如Prompt Chaining、Routing等)及其适用场景,并强调生产环境需解决的会话管理、错误处理等实际问题。最后提出"框架是工具而非答案"的核心观点,认为Agent质量取决于编排模式选择、工具设计和异常处理能力。全文为AI Ag
2026-08-04 11:32:23
288
原创 04 业务系统中的Prompt:从”一句话”到”一套系统”
这篇文章系统性地介绍了Prompt工程的全生命周期管理,主要包含五个核心环节:设计、评测、管理、安全和持续改进。文章首先指出常见的Prompt困境(如输入敏感性、效果不稳定、模型迁移问题等),提出需要建立完整的Prompt工程体系。核心内容包括:1)Prompt的系统化定义(角色/任务/约束/格式);2)System Prompt设计原则与模板;3)工具调用的标准化方法;4)评测体系(回归测试/A/B测试等);5)管理方案(版本控制/灰度发布);6)安全防护机制。文章强调生产级Agent需要从"单句提示词
2026-08-03 13:48:34
234
原创 03 Agent评测:别等上线前才想起来跑Demo
这是专栏系列的第三篇。第一篇讲了Agent系统怎么建,第二篇讲需要掌握什么能力。这篇讲LLM评测体系:AI评测不是上线前跑一次Demo就完事的。
2026-08-03 13:47:00
360
原创 02 业务Agent需要的四层能力:从技术栈到运营体系
本文是Agent系列专栏的第二篇,聚焦从Demo到生产环境所需的核心能力。作者将生产级Agent能力分为四层:技术能力(确保回答准确)、设计能力(支持多人协作)、工程化能力(保证稳定运行)和持续运营能力(优化迭代)。文中通过招聘市场数据分析指出评测、Prompt工程和RAG是关键技能,并详细拆解了每层能力的具体技术要点(如评测指标、Prompt优化、RAG架构)和实现方法(DeepEval/RAGAS工具链)。文章强调生产环境需解决语义统一、意图消歧、成本控制等实际问题,区别于Demo阶段的单一功能验证,为
2026-08-02 16:24:50
395
原创 01 别再做Demo了:业务系统Agent怎么建
这篇文章是系列文章的第一篇,聚焦如何构建生产级AI Agent应用的关键考量。文章指出从Demo到生产的核心挑战在于工程细节而非技术难度,主要分为三部分: 需求定位:强调Agent应作为业务流程参与者而非问答机器,需明确替代哪些人工环节,将人的角色从执行者转为决策者。 架构设计: 提出分层架构(意图理解→执行引擎→结果验证) 重点对比Workflow与Agent的适用场景:确定性流程用Workflow(如数据分析),灵活场景用Agent(如客服),多数生产系统采用混合模式 强调模型选择需平衡成本、性能与稳定
2026-08-02 16:23:37
557
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅