realllccc的博客

本文介绍了企业级LLM应用中RAG缓存的优化过程，通过设计三级置信度决策和缓存机制，将高频重复问题的响应时间从26秒降至0.5秒。

本文介绍了企业级LLM应用中数据接口管理的三大核心能力：1）Swagger URL导入功能，通过两阶段探测和选择性导入实现服务接口的可视化接入；2）前端接口测试功能，支持参数编辑、请求发送和结果展示；3）细粒度的接口权限管理，按用户和接口进行授权。文章还探讨了接口规范文件的存储方案选择（文件系统+数据库索引混合模式）、目录结构设计以及命令行导入工具的保留。这些功能共同解决了企业环境中接口的便捷接入、测试验证和权限管控问题，使非技术人员也能轻松管理API接口。

本文介绍了企业级LLM应用中API调用Agent的设计与实现。该组件通过配置驱动方式动态接入外部HTTP接口，解决了实时数据查询需求。文章分析了三种API调用方案优劣，选择JSON配置+HTTP直调的中间路线，支持GET/POST等多种请求方式、多种认证机制和参数动态合并。设计了list_interfaces和call_interface两个核心工具，实现接口热加载和错误处理。该Agent采用显式调用模式，与RAG、Data等Agent形成互补：知识库问答走自动路由，实时数据查询需手动切换模式。

本文介绍了企业级LLM应用中数据分析Agent的设计与实现。针对RAG在数值统计类问题上的局限性，作者提出了基于沙箱执行的解决方案，设计了独立微服务架构以确保安全性和稳定性。文章详细阐述了架构设计中的关键决策点，以及解决agent回答性能的优化方案。通过代码骨架注入、真实列名注入、进程池预热等五项优化措施，最终实现150倍的性能提升。

问题答案追问时上下文从哪来？SQLite messages 表手动注入（非 LangGraph 自处理）为什么有两套 SQLite？messages 管业务对话，SqliteSaver 管 Agent 执行快照短期记忆怎么实现的？全量历史消息 + 语义降权标签 + SqliteSaver 状态持久化长期记忆怎么实现的？Dify 文档 RAG + cache_service 历史问答经验匹配经验缓存能跨对话吗？能。扫描所有对话的消息记录跨对话能记用户偏好吗？不能。无用户画像存储。

本文总结了构建RAG知识库问答系统的关键优化点。单纯的"检索+生成"存在答案质量不稳定、检索结果不一致等问题，提出四步优化方案。实践表明，查询改写对提升检索准确率效果显著，而验证环节需平衡严格度，重点拦截明显错误而非追求完美。

摘要： 本文探讨了使用Dify低代码平台快速搭建LLM智能体的实践与思考。Dify通过可视化工作流编排、知识库管理等功能，能高效搭建基础AI应用，适合快速验证想法。但在动态生成代码、多轮对话等复杂场景下存在局限，如静态工作流无法实现动态决策。作者通过HTTP请求节点临时绕过代码执行问题，最终因需求复杂度转向LangGraph框架开发，同时保留Dify知识库功能。文章对比了低代码与代码开发的适用场景，并总结了知识库切块策略、召回率优化等实战经验，指出工具选择应随需求复杂度递进调整。

本文探讨了企业级LLM应用开发中的框架选型问题。首先明确了核心需求：意图判别路由分发和Agent自主执行。通过对比主流框架，排除了基于关键词匹配的简单方案和CrewAI（因其多Agent协作特性不符合需求）。最终选择了LangChain与LangGraph的组合方案：LangChain负责模型抽象、工具定义等基础功能，LangGraph则处理流程编排和Agent协作。重点介绍了LangGraph的Supervisor模式，根据用户请求分派特定Agent执行。

本文记录了从零搭建企业级LLM应用项目的起点。通过构建知识库智能助手项目来学习智能体开发全流程，采用分步推进策略，将初始大规划简化为知识库检索、数据统计和报告生成三大核心功能。项目采用分层架构设计（用户界面层、网关层、智能体层、基础设施层），技术选型上使用SQLite数据库、Streamlit前端框架和Qwen大模型。数据库设计包含用户认证、审计日志等功能模块，采用三级角色权限管理。开发策略强调"先跑通再优化"，初期代码集中后逐步重构模块化。下篇将探讨Agent框架选型问题。