- 博客(100)
- 收藏
- 关注
原创 向量数据库选型实战:Milvus、pgvector 与 Elasticsearch 在千万级文档下的压测对比
在数据量增长到千万级后,向量检索性能成为瓶颈。为客观选型,作者在相同环境下对 Milvus、pgvector 和 Elasticsearch 进行压测,重点考察查询延迟、召回质量、写入吞吐和资源占用。测试使用真实文本生成的 512 维向量,确保结果可信。
2026-09-07 10:08:20
566
原创 上下文工程的工程化:窗口管理、动态压缩与关键信息注入策略
本文针对LLM长对话中“越聊越蠢”的问题,提出上下文工程三招:滑动窗口管理历史、滚动摘要压缩旧对话、关键事实库与检索注入,确保模型注意力放在关键位置,提升效果并降低成本。
2026-09-07 09:57:58
396
原创 GraphRAG 落地实践:当传统向量检索不够时,知识图谱如何补位
内容讲了RAG在处理跨文档推理问题上的不足,引入GraphRAG,用LLM抽取实体关系构建知识图谱,纯Python实现,混合路由架构,实验对比显示GraphRAG对关系题有效但单点事实题不如向量检索。
2026-09-06 20:34:47
582
原创 RAG 评测体系从零搭建:面向生产环境的召回率、忠实度与端到端指标设计
本文介绍了从零搭建生产环境RAG评测体系的完整方案:强调评测集必须来自真实用户日志并标注三层信息;分环节设指标,用Recall@K、MRR定位检索问题,用忠实度检测幻觉;对齐RAGAS口径,结合人类打分验证;最后强调离线指标与线上业务指标并重,实现自动化回归。
2026-09-06 20:29:57
622
原创 企业知识库 RAG 从 62% 到 91%:分块策略、混合检索与重排序的调优全记录
作者为厘清RAG准确率来源,基于开源模型搭系统并自建评测集。通过分块策略优化、BM25+向量混合检索与RRF融合、重排序精排,将端到端准确率从62%提至91%,强调量化评测与实验对比驱动调优。
2026-09-03 21:13:34
309
原创 多智能体框架自研实录:为什么我们放弃现成编排框架,自己写了 500 行调度器
本文是基于“智能供应链助手”实际需求,试用CrewAI等框架三个月后,因无法满足生产级确定性、可观测和稳定性,改用500行自研调度器。核心为纯函数Agent、消息总线显式路由、可观测调度循环,失败作为状态流转,支持重试转人工。
2026-09-03 21:06:45
352
原创 构建可断点续跑的 Agent:长任务执行中的状态持久化、恢复与幂等设计
长任务会因中断失败,需要断点续跑;包含状态持久化、断点恢复、幂等执行;用SQLite存储状态和副作用记录。用简洁语言。</think>Agent长任务易因进程重启、外部超时或人工审批中断而失败,需断点续跑能力。核心包括:状态持久化(用SQLite分层存储上下文与副作用流水)、断点恢复(按已完成步骤续跑)、幂等执行(副作用去重)。最小实现通过TaskStore与StepRunner完成。
2026-09-02 09:51:28
440
1
原创 任务规划器的三种范式对比:ReAct、Plan-and-Execute 与 Tree-of-Thought 在真实业务中的取舍
本文指出任务规划是Agent能力的分水岭,比较了ReAct、Plan-and-Execute、Tree-of-Thought三种主流范式:ReAct边想边做,适合动态环境;Plan-and-Execute先计划后执行,成本低但计划静态;Tree-of-Thought多路径搜索,适合高难度推理。并为不同场景提供了选型建议。
2026-09-02 09:48:04
452
原创 Function Calling 的工程化实践:函数定义设计、幻觉防护与失败重试的 12 个坑
Function Calling 是 Agent 从"会说"到"能做"的基石,但生产环境翻车频发。本文从函数定义、幻觉防护、失败重试、工程细节四个层面,拆解 12 个真实踩坑点:description 设计、参数约束、工具白名单、schema 校验、幂等重试、超时控制等,并附 100 行可复用的 ToolExecutor 完整实现,让每次工具调用可控、可恢复、不产生事故。
2026-09-01 20:16:32
485
原创 从单轮对话到多智能体协作:基于 LangGraph 构建可观测的企业级 Agent 工作流
单轮对话为何撑不起企业级应用?本文用 LangGraph 将 Agent 从"黑盒循环"升级为显式的有状态工作流。以工单系统为例,逐步实现意图路由、RAG 检索、工具调用与 interrupt 人工审批,并扩展 Supervisor 多智能体协作模式;最后从 Tracing、指标埋点到评测闭环,构建完整的可观测体系,附完整可运行代码。
2026-09-01 20:12:48
719
原创 LLM Tool Calling 的工程化实践:Function Calling 与 Schema 校验
本文围绕LLM Function Calling的工程化落地,提出三层校验体系:Schema自动生成(Pydantic转JSON Schema,解决手写维护难)、参数解析与类型校验(防JSON解析失败、防非法工具名、防类型不匹配)、多步推理追踪(ValidationTracker确保校验未被跳过)。通过约200行代码示范,强调“约束输出格式”不等于“提升模型能力”,但能帮助快速定位问题,是Agent从玩具走向工程的关键一步。
2026-08-31 21:21:29
643
原创 从零搭建轻量级智能体平台:任务调度与工具调用架构设计
本文从零构建轻量级智能体运行时,涵盖工具注册与Schema生成、Agent主循环(推理→调用→回填)、以及审批策略、上下文压缩、长期记忆三大生产级扩展。约300行Python代码完整演示ReAct模式落地,强调“亲手写调度循环”对理解Agent原理的价值,为开发者提供可调试、可扩展的入门级架构参考。
2026-08-31 21:19:33
575
原创 多智能体协同的安全攻防演练:如何评测及防御Agent间的误导性信息传播
本文是应对多智能体协同中误导性信息传播的攻防实践总结。归纳了幻觉污染、级联放大、权威漂移、注入劫持、虚假共识五种传播形态,通过强制溯源(Claim血缘结构)与失真率、误导存活率、级联深度、虚假共识数等指标量化传播过程,并构建溯源与无源标记、信任度衰减、独立复核与分歧仲裁、高风险结论阻断四道防线。演练使误导种子存活率从68%降至12%以下,验证了"让错误在传播中失去信用"的防御理念。
2026-08-29 20:58:05
211
原创 从零搭建行业知识平台:向量库+图数据库+传统关系库的多模检索统一层设计
本文是从零搭建行业知识平台的实践总结。针对语义、关系、精确三类问题无法由单一存储覆盖的困境,设计了向量库+图数据库+关系库的多模检索统一层:查询解析以"规则优先、LLM补充、语义兜底"分诊意图,路由分发至三库执行(语义检索、关系遍历、精确查询),融合层用RRF算法规避跨源分数不可比并奖励多路印证。工程上沉淀了主键统一、白名单防注入、分路超时、评测集先行等决策,使上层只面对一个统一接口,换掉任一底层存储业务毫发无损。
2026-08-29 20:55:04
221
原创 面向行业Agent的全链路可观测性设计:Trace、Metrics与Feedback闭环
本文是针对传统监控无法回答"Agent做了什么、结果对不对"的问题,作者设计了三层方案:Trace层用Span模型与contextvars上下文传播记录每次LLM/工具调用及推理事件,实现按trace_id还原完整执行路径;Metrics层围绕任务生命周期定义成功率、延迟、Token成本、修订率等指标,并配以面向业务的告警语义;Feedback闭环通过自动校验、结构化用户反馈与延迟业务结果三路收集质量信号,经实时纠错、质量画像、评测集回灌三层改进系统。
2026-08-28 19:52:38
308
原创 大模型本体安全防护实践:提示词注入防御、输出合规过滤与敏感信息脱敏
本文是针对提示词注入、输出越权、数据泄露三类威胁,设计了三层纵深防御:输入侧通过指令层级隔离与"规则+分类器"双通道检测防御提示词注入,并对高风险工具调用做二次校验;输出侧通过分级过滤管道与流式逐段过滤拦截有害及越权内容;数据侧实现双向(入口/出口)、可逆、位于防护链最外层的敏感信息脱敏。工程上沉淀了"安全靠结构而非模型""规则优先于模型""日志本身是攻击面""评估误拦截成本"四个关键认知。系统上线后拦截数百次注入尝试,输出越权归零,日志中不再出现明文PII,验证了纵深防御在LLM应用安全中的有效性。
2026-08-28 19:48:23
554
原创 企业级智能体平台架构设计:从Agent Registry、Skill Store到运行时沙箱
本文是对构建企业级智能体平台的工程实践总结。针对智能体应用规模化后的重复开发、技能冲突、越权失控等问题,作者提出Agent Registry(注册与发现)、Skill Store(技能版本化与权限声明)、运行时沙箱(资源限额与隔离执行)三根支柱正交解耦的架构,并经"发现→解析→授权→沙箱执行→双重校验→全链路审计"调用链协同。工程上沉淀了契约先行、平台不写业务、默认拒绝等决策。平台已支撑20余个智能体、300多个技能稳定运行,无越权或逃逸事件,验证了"让平台更可靠而非让Agent更聪明"的理念。
2026-08-27 10:25:33
513
原创 多智能体协同在能源数据分析中的实践:分配-执行-校验闭环架构设计
本文记录作者将多智能体协同落地于能源数据分析场景的工程实践。针对负荷预测、异常检测、能效归因等任务异质且错误代价高的特点,作者设计并实现了"分配-执行-校验"闭环架构:分配层通过智能体注册表将任务拆解为带依赖的子任务;执行层以统一接口驱动清洗、建模、异常检测等专业智能体并行协同;校验层通过契约校验、交叉校验、基准比对三层机制独立验证结果;失败结果经反馈回路回传分配层,支持参数修订、智能体切换或降级转人工。工程上沉淀了统一接口、上下文按需注入、trace全链路等关键决策。
2026-08-27 10:21:30
412
原创 智能体任务拆解与执行:基于ReAct+Plan-and-Execute框架的行业Skill构建实录
本文是作者将LLM智能体落地行业业务的实践记录,聚焦任务拆解与执行难题。作者对比了ReAct(动态纠错)与Plan-and-Execute(全局可控)两大框架,提出以Plan-and-Execute为骨架、ReAct为步骤内执行引擎的混合方案,并抽象出可复用、有输入输出契约的"行业Skill"能力单元,通过"异常走廊"机制实现失败后的计划修订。工程上沉淀了工具契约显式化、失败分级、全链路可观测等经验。最终人工介入率从90%降至约15%,证明任务拆解走向显式、可编排的工程结构是智能体生产化的可行路径。
2026-08-26 21:10:13
338
原创 NL2SQL在工业级场景下的精度优化:Schema Linking + 动态Few-shot实战
摘要: NL2SQL在工业级场景落地面临多表JOIN、字段语义歧义等挑战,准确率往往不足70%。本文从两个核心优化方向入手:一是基于双向语义匹配的Schema Linking,将表级召回率从72%提升至90%;二是根据问题语义动态检索示例的动态Few-shot策略,复杂查询准确率提升8-10%。结合执行反馈自我修正机制,最终实现准确率从58%提升至87%。文章附完整可运行代码,适合AI工程师与数据开发人员参考。
2026-08-26 21:05:29
598
原创 Python 迭代器与生成器:用 yield 写出更优雅的代码
摘要 全文揭示了迭代器和生成器如何实现高效内存管理,为处理大数据集、构建流式处理管道提供了优雅解决方案,是编写高性能Python代码的重要工具。
2026-08-25 19:45:47
879
原创 Python 文件读写与上下文管理器:with 语句为什么是最佳选择
本文系统讲解了 Python 文件读写与上下文管理器的核心知识。从 `open()` 函数、文件模式与读写方法等基础讲起,深入剖析了不用 `with` 导致的资源泄漏与异常安全问题,详解了上下文管理器 `__enter__`/`__exit__` 协议及 `contextlib` 的简洁用法,并覆盖大文件分块读取、JSON/CSV 处理、多资源管理等进阶场景。最后总结了常见坑点与十大最佳实践,帮助读者写出健壮、高效、优雅的文件操作代码。
2026-08-25 19:41:39
561
原创 Python 字符串与编码:UTF-8、bytes 与 str 的那些坑
本文系统梳理了Python 3中字符串与编码的核心概念,主要内容包括: 编码基础:从ASCII到UTF-8的发展历程,Unicode字符集与UTF-8编码方式的区别 Python 3的字符串类型:str表示Unicode文本,bytes表示二进制字节序列 编码转换:str.encode()将文本编码为字节,bytes.decode()将字节解码为文本 文件操作:文本模式与二进制模式的区别,强调显式指定编码的重要性
2026-08-22 19:40:26
238
原创 Python 模块与包管理:import 机制、虚拟环境与 pip 完全指南
Python模块、包与虚拟环境管理指南 本文系统讲解Python代码组织与依赖管理的核心概念,帮助开发者构建可维护的项目结构。主要内容包括: 模块基础:模块是代码组织的基本单元,通过.py文件实现代码复用和命名空间隔离。
2026-08-22 19:37:04
206
原创 Python 异常处理最佳实践:从 try/except 到自定义异常
Python异常处理最佳实践摘要 Python异常处理是编写健壮程序的关键机制。异常分为语法错误和运行时异常两类,所有异常都继承自BaseException。捕获异常时应尽量精准,使用try/except结构,避免捕获过于宽泛的异常。完整的异常处理可包含else(无异常时执行)和finally(始终执行,适合资源清理)。通过raise可主动抛出异常,捕获后可重新抛出。 自定义异常能够更好表达业务逻辑错误,应继承Exception或其子类,构建清晰的业务异常层次结构。
2026-08-21 10:30:38
345
原创 从零理解 Python 面向对象:类、继承、多态与魔法方法
摘要 本文系统讲解 Python 面向对象编程四大核心概念: 类与对象:类作为对象的蓝图,通过__init__初始化实例属性,区分实例属性与类属性,介绍实例方法、类方法(@classmethod)和静态方法(@staticmethod)的使用场景。 继承机制:子类继承父类属性和方法,可通过方法重写和super()调用父类实现。深入多继承的MRO顺序原理,建议谨慎使用多继承。 多态特性:基于鸭子类型实现,不同类对象对同一方法调用产生不同响应,强调接口而非类型。
2026-08-21 10:22:49
337
原创 Python 函数进阶:参数传递、作用域与闭包的底层逻辑
Python函数核心机制解析 本文深入剖析Python函数的三大核心机制: 参数传递机制:Python采用"传对象引用"方式,形参和实参指向同一对象。对不可变对象(如整数)的修改不会影响外部变量,而对可变对象(如列表)的原地修改会影响外部。判断标准是函数内对形参做的是"重新赋值"还是"原地修改"。
2026-08-20 20:27:24
325
原创 AI智能体的“神经系统”:基于LangSmith或自研方案的日志追踪与性能调优
摘要: AI智能体的非确定性和多步骤调用使传统日志系统失效,需结构化追踪方案。LangSmith通过四级数据模型(Run→Trace→Thread→Trajectory)将调用组织成树状结构,支持自动统计耗时、Token等指标,并可通过@traceable装饰器灵活追踪自定义函数。对于多轮会话,thread_id实现对话连贯性追踪。此外,OpenTelemetry提供标准化方案,通过GenAI语义规范和无侵入采集(如阿里云OBI)实现厂商中立观测。
2026-08-20 20:24:53
380
原创 函数调用(Function Calling)在AI智能体中的应用:从自然语言到系统指令的无缝转换
文章摘要: Function Calling技术的核心是将大模型从单纯的语言生成器转变为行动协调器,使其能根据用户请求执行具体操作(如查询订单、天气等)。该技术通过结构化调用协议实现,包含五个阶段:用户目标→模型理解→工具选择→执行校验→结果反馈。工具定义的质量直接影响模型决策,需遵循名称明确、描述清晰、参数详细等原则。技术实现上,可通过装饰器模式注册工具,并建立工具注册中心管理执行过程。以跨境电商为例,工具可封装商品搜索、订单查询等业务功能,通过JSON Schema定义参数契约,最终构建自动化服务流程。
2026-08-19 20:30:15
438
原创 技术选型之争:LangChain vs. LlamaIndex vs. Dify,谁更适合企业级AI应用开发
文章摘要: 2024-2026年,Agent框架经历了从爆发到收敛的演变,LangChain、LlamaIndex和Dify成为主流选择。本文从技术选型角度分析三者的差异: LangChain:生态最全的工业级框架,适合复杂Agent工作流,但学习曲线陡峭,需付费使用完整功能。 LlamaIndex:专注RAG场景,数据检索能力突出,但功能相对单一,生态较小。 Dify:低代码平台,适合快速交付和非技术团队,但定制能力和检索效果有限。
2026-08-19 20:28:28
613
原创 一文搞懂 Python 列表、元组、字典、集合的区别与使用场景
本文系统对比了Python四大容器类型(列表、元组、字典、集合)的核心特性与适用场景。列表是动态数组实现的通用可变序列,适用于需要增删改查的数据;元组是静态数组实现的不可变序列,适合作为字典键和保护数据;字典基于哈希表实现键值映射,提供高效查找;集合则是无序不重复元素集,常用于去重和集合运算。文章详细介绍了每种容器的创建方式、常用操作和典型应用场景,并通过性能分析和代码示例说明其适用条件,帮助开发者根据具体需求选择合适的数据结构。
2026-08-17 21:16:36
1042
原创 AI输出的“质检员”:构建智能体质量评估、异常检测与人工兜底的三层防线
本文探讨了跨境电商AI智能体输出质量保障的必要性和实现方法。文章指出,AI越智能,其错误带来的后果越严重,90%的决策问题源于缺乏系统性质量保障机制。为此,作者提出三层防护体系: 质量评估:采用基于证据链的验证方法,通过代码示例展示如何将回答拆解为原子陈述并与工具返回结果比对,计算幻觉率等指标。 异常检测:通过规则匹配和逻辑验证识别危险模式,如库存/价格数字、订单状态等必须有数据支撑的陈述。 人工兜底:作为最终保障(文中未展开)。
2026-08-17 21:14:03
664
原创 打通数据孤岛:如何利用AI Agent无缝对接Amazon、Walmart及ERP系统
跨境电商面临严重的数据孤岛问题,主要体现在三个层面:API接口割裂、数据格式异构和业务流程断层。这导致企业运营效率低下,补货决策等核心业务需要人工跨系统操作,易出错且耗时。 为解决这一问题,文章提出构建AI驱动的统一数据抽象层方案,采用分层架构设计: 业务触发层接收指令 AI决策层处理任务 统一接口层标准化操作 数据源适配层对接各平台 核心创新点在于建立统一的产品主数据模型,通过映射服务解决跨系统标识符不统一的问题。并以Amazon SP-API适配器为例,展示了如何封装复杂接口为标准化服务。
2026-08-16 20:43:12
545
原创 Python 入门必知:变量、数据类型与动态类型机制详解
本文深入解析Python变量模型与动态类型机制的核心概念。文章首先打破"变量是盒子"的误解,指出Python变量实质是绑定到对象上的标签名,并通过内存地址示例演示变量赋值的本质。接着系统梳理Python基本数据类型(数值、字符串、布尔值等),特别揭示浮点数精度问题的根源及解决方案,强调字符串的不可变性特征。最后深度剖析动态类型特性,包括运行时类型确定、type()与isinstance()的区别以及类型转换方法,帮助读者建立对Python类型系统的准确认知。
2026-08-16 20:41:44
396
原创 Prompt Engineering进阶:面向复杂业务场景的模板化管理与动态注入策略
跨境AI智能体的Prompt工程化实践 Prompt(提示词)在跨境AI智能体中并非静态文本,而是需要动态调整以适应业务变化(如政策调整、促销活动、多语言场景)。为此,需将Prompt进行工程化管理: 模板化:分离固定结构和动态变量,使用如LangChain的PromptTemplate定义结构化模板,避免硬编码。 动态注入:利用部分格式化(Partial)预绑定系统级变量(如季节、促销状态),并通过管道组合实现多步推理。 版本管理:以YAML/JSON存储模板,支持版本追溯和热更新,结合配置中心实现灰度发
2026-08-14 10:20:54
274
原创 大模型API统一抽象层设计:适配OpenAI、Claude、DeepSeek等多厂商模型的工程实践
摘要 本文探讨了在多模型AI应用开发中,不同厂商API接口差异带来的工程挑战,提出采用适配器模式+工厂模式的解决方案。通过定义统一的抽象接口(LLMProvider)和消息格式(Message、LLMResponse),将OpenAI、Claude等不同厂商的API封装为标准化适配器。该设计支持: 业务代码与具体模型解耦 通过配置文件切换模型 保留原始响应以兼容调试 同时支持流式和非流式调用 核心价值在于实现"一套接口调用所有模型",显著提升多模型系统的可维护性和扩展性。
2026-08-14 10:18:16
168
原创 跨境电商知识库构建实战:多源异构数据的向量化存储与检索优化
本文针对跨境电商企业构建AI知识库的挑战,提出了一套完整的工程解决方案。文章首先分析了跨境电商面临的多源异构数据困境,指出RAG系统效果80%取决于数据质量。核心内容包括: 知识库架构设计:划分为离线数据准备和在线检索推理两条链路 数据标准化处理:针对结构化、半结构化和非结构化数据采用不同的处理策略 语义分块优化:提出按文档类型采用差异化分块策略,并引入Small2Big方法增强上下文 向量数据库选型:对比主流数据库性能,强调低延迟和元数据过滤能力的重要性 方案特别关注跨境电商特有的多语言一致性、时效性管理
2026-08-14 10:14:50
334
原创 AI Agent工作流深度剖析:任务拆解、工具调用与人工审核闭环机制
本文探讨了AI Agent在工作流中的关键作用,区别于普通聊天机器人,AI Agent能够自主串联完整业务流程。文章聚焦三大核心环节:任务拆解、工具调用和人工审核,结合LangGraph实践构建可靠执行闭环。 在任务拆解部分,详细介绍了Plan-and-Execute模式,通过LLM将复杂任务拆解为有序子任务序列,并解析任务间的依赖关系实现并行执行优化。工具调用部分强调了标准化接口规范,包括工具定义、注册和执行机制,并以跨境电商中的广告调价工具为例,说明高风险操作的实现方式。 全文提供了Python代码示例
2026-08-14 10:12:13
336
原创 跨境AI智能体分层架构设计:网关层、调度层与执行层的解耦实践
本文提出跨境电商AI智能体的三层解耦架构:网关层统一接入,实现多模型路由(OpenAI/Claude/DeepSeek)与限流熔断;调度层基于LangGraph的Supervisor-Worker模式负责任务拆解、状态管理与会话持久化;执行层通过标准化Tool机制对接ERP、电商平台等外部系统。三层通过明确接口契约通信,实现独立演进与故障隔离,为构建高可用企业级AI Agent提供了可落地的架构设计方案。
2026-08-14 10:10:25
382
原创 从MVP到生产环境:企业级AI智能体落地中的权限管理、异常处理与工程化思考
企业级AI Agent落地的核心挑战在于从Demo原型转向生产系统,需解决权限管控、异常处理和工程化部署三大问题。权限管理需构建"权限-审计-策略"三层架构,通过细粒度授权、短期令牌和沙箱隔离实现安全控制。异常处理要求Agent具备自动熔断、人工复核和操作回滚能力。工程化部署则需要将Agent深度嵌入企业业务流程,实现模型能力与现有系统的无缝对接。最终目标是建立可信执行环境,使AI Agent从"建议层"升级为可审计、可管控的"执行层"系统。
2026-08-12 19:57:55
527
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅