- 博客(168)
- 资源 (33)
- 收藏
- 关注
原创 AI Agent开发实战㉚|Agent安全加固:从注入攻击到数据泄露的防御
本文探讨了AI Agent的安全加固策略,重点防御Prompt注入攻击和数据泄露风险。文章首先分析了Agent面临的安全威胁全景图,包括外部攻击(Prompt注入、越权访问)和内部风险(数据泄露、恶意工具调用)。针对Prompt注入问题,提供了多层级防御方案:关键词检测、LLM分类识别和输入清洗,并展示了系统Prompt加固模板。在权限控制方面,介绍了基于角色的访问控制(RBAC)实现方案,包括角色权限映射和工具调用权限管理,通过代码示例演示了如何实现用户权限验证。这些安全措施能有效保护Agent免受常见攻
2026-06-16 09:31:23
34
原创 AI Agent开发实战㉙|Agent成本优化:如何在效果和成本间平衡
这篇文章探讨了如何优化AI Agent的成本,在保持效果的同时降低LLM调用费用。主要内容包括: 成本构成分析:LLM调用占70-85%,其中生成任务占45-60%是主要成本项。 模型选择策略: 分层模型架构:根据查询复杂度自动选择不同级别的模型(GPT-3.5/GPT-4) 小大模型协作:先用小模型生成,再用大模型审核修改,可节省60%成本 Token优化: 通过Prompt压缩减少输入Token数量 提供成本计算工具示例,展示不同模型组合的成本差异 文章提供了多个Python代码示例,展示如何实现这些优
2026-06-16 09:30:51
159
原创 AI Agent开发实战㉘|Agent部署与运维:从开发到生产的完整路径
本文介绍了AI Agent从开发到生产环境的完整部署路径,重点涵盖部署前的准备工作、容器化部署方案以及Kubernetes集群部署策略。内容主要包括: 部署前检查清单:详细列出硬件资源、软件环境、依赖服务和安全配置要求 配置管理方案:使用Pydantic进行多环境配置管理 容器化部署:提供Dockerfile编写指南、Docker Compose编排示例以及自动化部署脚本 Kubernetes部署:包含Deployment配置、健康检查、资源限制以及HPA自动扩缩容方案 文章通过具体代码示例,展示了如何实现
2026-06-16 09:30:14
252
原创 AI Agent开发实战㉗|Agent测试与调试:如何保证Agent质量
文章摘要:本文探讨了AI Agent测试的特殊挑战与解决方案。相比传统软件测试,Agent测试面临输出不确定性、难以定义"正确"、依赖LLM API和长流程覆盖困难等问题。作者提出分层测试策略(单元测试→集成测试→E2E测试)和Mock技术,并详细介绍了Prompt测试、工具调用测试、意图识别测试等单元测试方法,以及RAG流程和多轮对话的集成测试要点。文章通过代码示例展示了如何构建可靠的Agent测试体系,为AI系统质量保障提供了实践指南。(149字)
2026-06-16 09:29:41
187
原创 AI Agent开发实战㉖|Agent性能优化实战:从并发到缓存的全链路优化
AI Agent性能优化实战摘要 本文系统介绍了AI Agent性能优化的四个关键维度: 瓶颈定位:通过计时装饰器精准定位LLM调用(60-80%)、向量检索(10-20%)等主要瓶颈环节 并发优化: 异步调用实现检索与意图识别的并行处理,节省30-40%时间 批处理结合信号量控制并发数量 缓存策略: 实现多级缓存(本地+Redis) 对检索结果和Embedding进行缓存,重复查询可节省80%时间 检索优化:针对不同数据规模选择合适的向量索引类型(IVF_FLAT或HNSW) 优化后Agent平均响应时间
2026-06-16 09:28:59
167
原创 AI Agent开发实战㉕|从零搭建生产级Agent:架构设计与技术选型
本文分享了从零搭建生产级AI Agent的系统化架构设计方法。生产级Agent需要满足高可用、可扩展、可观测、安全性和可维护性等核心要求。文章提出了分层架构设计,包括接入层、网关层、Agent服务层、能力层和数据层,并给出了详细的目录结构建议。在核心模块实现部分,重点介绍了配置管理、LLM调用封装和检索器封装的关键代码实现,展示了如何通过环境变量管理配置、使用重试机制增强LLM调用的可靠性,以及实现向量检索功能。这些设计模式和实现细节为开发者构建生产可用的AI Agent提供了实用参考。
2026-06-16 09:28:18
120
原创 AI Agent开发实战㉔|LangChain vs LangGraph vs CrewAI vs AutoGen:2026年Agent框架选型指南
2026年主流AI Agent框架选型指南:本文从性能、易用性、灵活性和生态四个维度对比LangChain、LangGraph、CrewAI和AutoGen四大框架。测试显示LangChain性能最优(平均延迟3.2s),LangGraph灵活性最强(支持复杂状态管理),CrewAI适合多Agent分工协作,AutoGen则适用于需求不明确的对话场景。选型决策树建议:单Agent简单任务用LangChain,复杂流程选LangGraph;多Agent明确任务用CrewAI,需对话澄清则选AutoGen。文中
2026-06-16 09:27:38
600
原创 AI Agent开发实战㉓|AutoGen对话式协作:两个Agent如何通过对话完成任务
摘要 AutoGen是一种基于对话式协作的AI代理框架,通过多个Agent之间的交互式对话完成任务。与CrewAI的任务分配模式不同,AutoGen更适用于需要反复讨论和迭代的场景,如需求澄清、代码开发和数据分析。其核心组件ConversableAgent支持人机对话和Agent间自动对话,GroupChat功能可实现多Agent协同工作。AutoGen提供代码执行沙箱、人工介入模式选择(ALWAYS/NEVER/TERMINATE)和工具集成等高级功能,适用于数据分析、代码审查等需要多方协作的复杂任务。典
2026-06-16 09:26:39
163
原创 AI Agent开发实战㉒|CrewAI多Agent协作实战:让多个Agent分工合作
文章摘要:CrewAI框架通过多Agent协作机制解决了单Agent处理复杂任务时的局限性。该框架包含三个核心组件:Agent(定义专业角色)、Task(分配具体工作)和Crew(协调团队执行)。文章展示了软件开发场景下的多Agent分工优势,并提供了内容生产、代码开发等实战案例。CrewAI支持顺序执行和层级执行两种协作模式,可集成自定义工具,通过专业分工和相互监督显著提升任务质量和效率。典型应用场景包括需求分析、代码编写与审查、自动化内容生产等。
2026-06-16 09:25:26
173
原创 AI Agent开发实战㉑|LangGraph深度实战:用状态图构建复杂Agent工作流
LangGraph深度实战:用状态图构建复杂Agent工作流 摘要: LangGraph突破LangChain的链式结构限制,采用状态图模型支持复杂Agent工作流。其核心由StateGraph(状态容器)、Node(处理节点)和Edge(流转逻辑)组成,实现了循环、分支和状态保持功能。以智能客服为例,完整流程包含意图识别、知识检索、结果判断、用户追问和反馈处理等环节,通过条件边实现动态路由。状态图模型能优雅处理"检索不足→追问→再检索"等循环场景,以及"用户不满意→转人工"等分支场景,显著提升复杂业务逻辑
2026-06-16 09:24:27
269
原创 AI Agent开发实战⑳|RAG系统整体优化:从Pipeline到端到端评估
本文探讨了RAG系统的端到端优化方法,指出单模块优化可能无法解决整体效果问题。文章首先展示了RAG的典型三阶段架构(检索、后处理、生成),然后详细介绍了三类评估指标:1)检索质量指标(Recall@K、MRR、NDCG等);2)生成质量指标(忠实度、相关性、完整性);3)端到端指标(答案准确性、延迟)。通过代码示例演示了如何使用LLM自动评估答案质量,强调需要从整体流程角度进行协同优化,而非孤立改进单个模块。
2026-06-15 16:36:17
122
原创 AI Agent开发实战⑲|生成优化与Prompt工程:让LLM准确输出你想要的答案
RAG生成优化与Prompt工程技巧 本文针对RAG(检索增强生成)场景下LLM输出常见的三大问题——跑题、遗漏和幻觉,提出了系统化的Prompt工程解决方案。核心方法包括: 明确约束原则:通过严格指令限制LLM仅使用检索内容,避免脑补和幻觉 结构化指令设计:采用分步回答模板确保回答完整性和条理性 示例驱动方法:提供few-shot示例引导LLM按预期格式输出 自我检验机制:通过输出前验证和CoT推理提高准确性 特殊场景处理:针对信息冲突、不完整等情况设计专门提示词 质量控制体系:引入格式控制和自动验证环节
2026-06-15 16:35:43
190
原创 AI Agent开发实战⑱|上下文压缩与选择:让LLM看到最有价值的信息
本文探讨了在LLM上下文窗口有限的情况下,如何通过上下文压缩与选择策略高效处理大量文档。核心矛盾在于检索到的文档数量(如50篇)远超LLM处理能力(如5篇),需要平衡信息完整性和Token限制。 解决方案分为两部分: 选择策略: 基于分数选择Top-K文档 MMR算法平衡相关性与多样性 基于查询关键词覆盖度选择最优组合 压缩策略: 摘要压缩:用LLM生成保留关键信息的精简内容 提取式压缩:通过句子嵌入选取最相关的原始句子 文中提供了Python代码示例,包括MMR实现和两种压缩方法,帮助开发者在有限Toke
2026-06-15 16:35:09
79
原创 AI Agent开发实战⑰|多跳检索与知识图谱:让RAG突破单跳限制
文章摘要:多跳检索让RAG突破单跳限制 本文探讨了传统RAG在复杂查询中的局限性,并提出了三种多跳检索解决方案: 单跳检索的局限:无法处理需要分步查询的复杂问题(如"马斯克创立的公司有哪些员工超过10000人"),因为需要先查公司列表再查员工数。 三种多跳检索方案: 迭代检索:分步查询,用前一步结果生成下一步查询 分解检索:先将复杂问题拆解为独立子问题,再并行检索 知识图谱增强检索:利用结构化知识图谱进行实体关系查询 这些方法使AI Agent能像人类一样逐步推理,解决传统RAG只能处理单跳问题的缺陷。
2026-06-15 16:34:38
139
原创 AI Agent开发实战⑯|Query改写与扩展:让检索更懂用户意图
本文介绍了提升检索效果的Query改写与扩展技术,主要解决用户查询与文档表述不一致导致的召回率问题。文章分析了三类常见问题:表达不准确、意图模糊和长尾词缺失,并提出了四种改写策略:1)基于领域词典的同义词扩展;2)利用大模型生成语义相同的不同表述;3)HyDE技术通过生成假设答案进行检索;4)Query2Doc方法将查询扩展为文档描述。最后介绍了多版本查询结果的融合算法RRF(Reciprocal Rank Fusion),通过加权排序综合各查询版本的检索结果。这些技术能有效提升语义检索的召回精度,使系统更
2026-06-15 16:34:07
246
原创 AI Agent开发实战⑮|Rerank重排序实战:Cohere vs ColBERT vs 本地Cross-Encoder的实测对比
本文对比了三种Rerank(重排序)技术方案:Cohere API、ColBERT和本地Cross-Encoder。Rerank可解决向量检索中"近似≠精确"的问题,通过二次排序提升Top结果的相关性。Cohere Rerank效果最佳但需付费;ColBERT速度较快,准确率接近Cross-Encoder;本地Cross-Encoder免费但计算成本较高。实测显示,好的Rerank能使检索准确率提升20%以上。文章提供了各方案的Python实现代码,并分析了性能、成本及适用场景,建议根据预算、延迟和准确率需
2026-06-15 16:33:34
197
原创 AI Agent开发实战⑭|检索策略深度对比:向量检索 vs BM25 vs 混合检索实测选型
本文对比了三种检索策略(向量检索、BM25关键词检索和混合检索)的性能表现。向量检索擅长语义理解但精确匹配差,BM25精于关键词匹配但缺乏语义理解,混合检索结合两者优势。通过1万篇中文技术文档的测试,混合检索(alpha=0.7)在Recall@5、Recall@10和MRR@10指标上分别达到80.1%、89.2%和0.75,比单一策略提升9-12%。建议根据场景需求选择:语义查询用向量检索,精确匹配用BM25,综合场景优先混合检索。
2026-06-15 16:33:01
275
原创 AI Agent开发实战⑬|向量数据库选型实战:Chroma vs Milvus vs Qdrant百万级数据性能对比
本文对比了三款主流向量数据库(Chroma、Milvus、Qdrant)在不同数据规模下的性能表现。测试结果显示,在小规模数据(<10万向量)下,Chroma简单易用且性能足够;中等规模(10万-100万)推荐Qdrant,其内存效率高且支持元数据过滤;大规模数据(100万以上)则Milvus表现最优,具备最强的写入和并发能力。关键结论:选型需考虑未来数据规模,避免中途迁移成本,小数据用Chroma,中大规模优先Qdrant或Milvus。
2026-06-15 16:32:24
327
原创 AI Agent开发实战⑫|Embedding模型选型实战:中文场景下OpenAI、BGE、M3E的对比测试
本文对比测试了5款主流Embedding模型在中文场景下的表现,包括OpenAI、BGE和M3E系列。通过财务、技术、新闻和通用四个领域的测试发现:BGE-large-zh在中文财务领域表现最佳,Recall@5比OpenAI高3.8%;BGE-m3对中英混合和技术文档处理最优;OpenAI在新闻领域略优。测试还显示,本地部署的BGE模型在中文场景下性价比最高,而OpenAI对长文本处理更稳定。根据场景需求,中文优先选BGE-large-zh,中英混合选BGE-m3,预算充足可考虑OpenAI。
2026-06-15 16:31:16
281
原创 AI Agent开发实战⑪|RAG分块策略深度对比:固定长度、语义分块、结构化分块的实测选型
本文对比了RAG系统中的三种分块策略:固定长度分块、语义分块和结构化分块。固定长度分块简单通用但容易切断语义信息,导致检索质量下降;语义分块通过计算相似度保持语义完整性,但计算成本较高;结构化分块利用文档标题层级,在保留结构信息的同时平衡语义完整性。实测表明,结构化分块在500篇文档测试中表现最优,能提升30%的检索准确率,尤其适合技术文档、财务报告等结构化内容。建议根据文档类型选择分块策略,混合使用效果更佳。
2026-06-15 16:30:34
202
原创 AI Agent开发实战⑩|Agent安全护栏:输入过滤到输出审核的完整防御体系
本文介绍了构建AI Agent安全防御体系的完整方案,重点分析了Agent系统的三大攻击面(输入层、工具层、输出层)及其具体风险类型。文章提供了详细的Prompt注入检测代码实现,包括基于正则表达式的模式匹配检测器(PromptInjectionDetector类)和LLM辅助验证器(LLMInjectionValidator类)。检测器能够识别指令覆盖、角色扮演逃逸、编码混淆等多种注入技术,并给出风险等级评估。此外还介绍了输入清理方法,通过移除分隔符和恶意指令模式来保留正常输入。全文强调从输入过滤到输出审
2026-06-12 13:33:24
93
原创 AI Agent开发实战⑨|Agent评估体系设计:从LLM-as-Judge到多维度指标的实战方法
本文介绍了AI Agent评估体系的设计方法,针对Agent输出概率性、非确定性的特点,提出了一套多维度、自动化的评估框架。评估体系包含五个核心维度:任务完成度、响应质量、效率指标、安全性和用户体验。文章重点展示了如何通过LLM-as-Judge技术实现规模化自动评估,包括任务完成度分类、质量指标量化计算等方法,并提供了Python代码示例说明评估流程的实现。这套评估体系解决了传统测试方法无法适应Agent特性的问题,能够全面、高效地评估Agent性能,为AI Agent的开发和优化提供科学依据。
2026-06-12 13:32:50
154
原创 AI Agent开发实战⑧|RAG系统深度实战:检索增强的全链路优化与7个让结果更精准的技巧
《RAG系统深度实战:检索增强的全链路优化技巧》摘要 本文深入剖析RAG(检索增强生成)系统的核心优化策略,指出检索环节而非生成环节是影响结果质量的关键瓶颈。文章系统性地分解RAG六大模块(文档入库、分块、向量化、检索、重排序、生成),重点提出分块策略应根据文档类型(技术文档、财务报告等)动态调整大小(300-1500字符)和重叠比例(0-200字符),推荐BGE等中文优化Embedding模型,并创新性地提出混合检索方法(结合向量与BM25算法,权重可调)。通过7个实战技巧,包括语义分块、结构化分块、本地
2026-06-12 13:32:13
118
原创 AI Agent开发实战⑦|Agent框架横评2026:LangChain vs LangGraph vs CrewAI vs AutoGen 实测选型
本文对四大AI Agent开发框架(LangChain、LangGraph、CrewAI、AutoGen)进行了5000+次实测对比,从四个维度提供选型参考: 上手难度:CrewAI最友好(9.2分),LangGraph最硬核(5.5分) 功能完整性:LangGraph和LangChain领先(30/35和28/35) 性能表现:LangGraph成功率最高(85.8%),Token效率最优(平均4883/task) 调试体验:LangGraph调试功能最完善(22/25) 综合评分显示,LangGraph
2026-06-12 13:31:22
647
原创 AI Agent开发实战⑥|Agent工业化指南:日志、监控、告警与故障自愈的实战架构
本文系统阐述了AI Agent在工业生产中的监控与故障处理方案,提出了五层监控体系:请求层、行为层、LLM层、工具层和业务层。针对Agent特有的执行路径不固定、LLM输出不可预测等挑战,文章详细展示了请求层指标采集(如成功率、耗时、Token消耗)的实现代码,并介绍了基于OpenTelemetry的行为追踪技术,可记录Agent的完整决策路径。这种架构设计使开发者能像监控微服务一样全面掌握Agent运行状态,及时发现问题根源,避免"不知为何变差"的困境。
2026-06-12 13:30:40
190
原创 AI Agent开发实战⑤|Agent规划系统:从简单规划到自反思的三种模式实战
摘要:本文探讨了AI Agent规划系统的三种模式:One-shot、Plan-and-Execute和Self-Reflection。无规划的Agent容易因缺乏预判而失败,而有规划的Agent能提前明确步骤、依赖关系和中间产物。One-shot模式适用于简单任务,一次性生成完整计划但缺乏灵活性;Plan-and-Execute模式将规划与执行分离,适合多步骤任务;Self-Reflection模式通过迭代优化处理复杂易错任务。文章通过代码示例展示了各模式的实现逻辑,并比较了其优缺点及适用场景,为开发者选
2026-06-12 13:29:52
331
原创 AI Agent开发实战④|记忆不只是向量数据库:Agent三层记忆架构设计与8个踩坑实录
本文探讨了AI Agent的三层记忆架构设计及其实践中的常见问题。文章首先通过客服Agent遗忘工单号的案例,指出仅依赖向量数据库无法解决记忆问题,提出需要构建长期记忆(向量数据库)、短期记忆(会话历史)和工作记忆(任务状态)的三层协作体系。核心内容包括: 三层记忆设计架构与协作机制,通过优先级和LLM综合判断实现记忆检索 8个典型踩坑问题及解决方案,包括: 向量检索结果过多导致质量下降(建议添加重排序层) 对话历史过长导致性能问题(实现上下文压缩策略) 记忆层之间缺乏优先级导致冲突 工作记忆未及时清理造成
2026-06-12 13:29:15
336
原创 AI Agent开发实战③|工具设计三个层:很多教程只讲了第一层
本文介绍了AI Agent开发中工具设计的三个关键层次: Schema定义层:核心是让Agent正确理解工具用法,包括详细的参数描述、枚举值定义、默认值设置和示例说明,需注意参数关系和禁忌值标注。 错误处理层:针对网络超时、参数错误等常见问题建立分层处理机制,包括错误分类(参数错误、网络错误等)和重试策略(如指数退避),确保工具稳定性。 感知优化层:通过Schema优化提升Agent使用体验,包括参数预处理、标准化返回和错误信息设计。 文章通过真实案例对比,展示了从基础功能实现到生产级工具开发的演进过程,强
2026-06-12 13:27:51
194
原创 AI Agent开发实战②|思维链vs ReAct:2026年主流推理模式实测对比,附选型决策树
核心思想:让模型在给出最终答案之前,先输出一系列的中间推理步骤。普通问答:问:小明有5个苹果,给了小红2个,又买了3个,小明现在有几个苹果?答:6个CoT回答:问:小明有5个苹果,给了小红2个 → 剩3个,又买了3个 → 3+3=6答:6个CoT的本质:把推理过程显式化,让模型在"思考区"进行多步推理,而不是一步到位猜答案。适用场景:数学计算、逻辑推理、需要多步分析的问题。"""标准CoT调用"""
2026-06-12 13:27:02
289
原创 AI Agent开发实战①|从“问答机器人“到“智能体“:AI Agent核心架构原理解析
这篇文章解析了AI Agent的核心架构设计,指出传统LLM调用与AI Agent的本质区别,并详细拆解AI Agent的六大核心组件:感知层、记忆层、规划层、工具层、行动层和反思层。 关键要点: AI Agent与普通问答系统的区别在于采用"感知→思考→行动→反馈→迭代"的闭环工作模式,而非单轮问答 六大核心组件形成闭环系统:感知层处理多源输入,记忆层实现短/长期记忆存储,规划层进行任务分解和策略选择,工具层提供外部交互能力 文章通过代码示例展示了各模块的实现细节,包括记忆检索优化、不同复杂度任务的规划策
2026-06-12 13:26:27
258
原创 本地部署大模型完全指南⑧:实战应用——本地AI编程助手
本地AI编程助手实战指南 本文介绍如何在VS Code中部署本地大模型作为编程助手,解决云端助手的隐私、离线使用和成本问题。提供两种集成方案: Continue插件 - 推荐方案,支持代码补全、审查、重构等功能,配置简单 CodeGPT插件 - 功能更全面,支持多模型切换 详细指导包括: Ollama连接配置 自定义代码审查工作流 提示词模板设计 Git提交消息自动生成 项目级代码理解(RAG技术) 本地部署优势: 数据不出本地 离线可用 一次性投入无月费 可定制化程度高 适合开发者在敏感代码环境下使用,提
2026-06-11 23:44:20
311
原创 本地部署大模型完全指南⑦:性能优化与资源控制
本地大模型性能优化指南:显存、速度与内存管理 本文提供了本地部署大模型时的实用性能优化方案,重点解决三大核心问题: 显存优化:通过量化技术(Int4/Int8)可减少75%显存占用,推荐q4_0或q4_k_m量化方案;合理控制上下文窗口大小(问答2048,文档分析8192);设置环境变量管理显存碎片化 速度提升:确保GPU加速生效,采用批处理请求和预热机制,通过并发设置(OLLAMA_NUM_PARALLEL)提升吞吐量,注意并发数会按比例增加显存需求 内存管理:采用动态内存清理策略,对低配置设备可启用CP
2026-06-11 23:43:30
419
原创 本地部署大模型完全指南⑥:多模型管理与智能切换
本文将介绍如何高效管理本地部署的多个大语言模型,实现智能切换和按需调取。主要内容包括: 模型分层策略:根据任务需求将模型分为轻量级(1.5B-3B)、中量级(7B-14B)和重量级(32B-72B)三个层级,并给出推荐模型分工矩阵。 Ollama进阶管理: 模型自动加载与卸载控制 设置模型保持时间(从30秒到24小时不等) 并发请求处理配置(最多支持4个并发) 智能调度系统:基于Python的自动路由方案,通过关键词匹配为不同类型任务(编程、数学、翻译等)选择最优模型。 文章提供了完整的代码示例和实用建议,
2026-06-11 23:42:42
250
原创 本地部署大模型完全指南⑤:搭建美观的对话界面(Open WebUI)
本地大模型对话界面部署指南 本文介绍了如何为本地部署的大语言模型搭建美观易用的Web对话界面,重点推荐Open WebUI方案: 功能优势: 提供类似ChatGPT的交互体验 支持多模型切换、文件上传、对话历史管理 配备提示词模板库和响应式设计 部署方式: 推荐Docker一键部署(3000端口映射) 详细说明容器参数和持久化配置 提供原生安装备用方案 核心配置: 连接Ollama的两种方法 管理员面板的关键设置项 对话参数(温度、上下文长度等)调整 高级功能: 多模型管理 文档问答(RAG)支持多种文件格
2026-06-11 23:41:37
446
原创 本地部署大模型完全指南④:API服务化与远程访问
本文是本地大模型部署指南的第四部分,重点讲解如何将本地模型API服务化以实现远程访问。文章首先指出API服务化的重要性,包括团队协作、系统集成和弹性扩展等优势。 主要内容分为两部分: Ollama原生API详解:介绍了Ollama内置的HTTP API端点(如文本生成、对话、向量化等),并提供了流式/非流式调用的Python示例代码和多轮对话实现方法。 API网关构建方案:提出使用Nginx作为反向代理,配置HTTPS、请求限流和API Key鉴权,同时配合Python编写的鉴权服务,实现企业级的安全访问控
2026-06-11 23:40:50
367
原创 本地部署大模型完全指南③:私有知识库搭建(Ollama + Dify)
本文介绍了如何利用 Dify 和 Ollama 在本地搭建私有知识库,解决大模型对业务文档理解不足的问题。内容涵盖: 为什么需要知识库:大模型无法获取企业内部文档和最新信息,RAG(检索增强生成)技术通过搜索本地文档补充上下文。 Dify 的核心功能: 知识库管理(文档上传/向量化/检索) 多模型支持(Ollama/OpenAI等) 可视化工作流编排 部署步骤: 通过 Docker Compose 快速安装 Dify 配置 Ollama 模型和 Embedding 模型 创建知识库并优化文档分段策略 应用搭
2026-06-11 23:39:48
690
原创 本地部署大模型完全指南②:Ollama一键部署DeepSeek与Qwen
本文是本地部署大模型的第二篇实战指南,重点介绍如何使用Ollama一键部署国内两大热门开源大模型DeepSeek和通义千问(Qwen)。文章首先对比了两者的特点:DeepSeek在数学推理和编程方面表现突出,而Qwen则在综合任务和函数调用生态上更具优势。接着详细讲解了Ollama的核心操作命令,包括模型管理、存储位置调整等,并给出了不同硬件配置下的模型选择建议。 实战部分分别展示了DeepSeek和Qwen的部署过程:通过简单的ollama run命令即可启动模型,并提供了Python和Node.js的A
2026-06-11 23:39:02
654
原创 本地部署大模型完全指南①:硬件选型与环境搭建
本地部署大模型指南:硬件选型与环境搭建 本文提供本地部署大模型的完整入门指南,重点解决硬件选型与环境配置问题。本地部署具有数据安全、零延迟、离线可用等优势,适合企业和高频用户。 硬件选型:核心指标是显存(VRAM),7B模型需4GB(Int4量化),14B需8GB。RTX 3060可跑7B~14B模型,RTX 4090支持32B模型,企业级部署需多卡A100/H100。显存不足时可采用CPU运行、模型量化或蒸馏版本三种方案。 环境搭建:推荐使用Ollama工具,支持Windows/macOS/Linux一键
2026-06-11 23:38:03
910
原创 我的AI辅助开发工具链2026版:从IDE插件到Agent的完整配置指南
《我的AI辅助开发工具链2026版》摘要: 本文系统介绍了2026年AI辅助开发的完整工具链配置方案。作者指出,当前AI开发工具已从单点应用发展为覆盖全流程的体系,强调工具联动、本地化部署和Agent自主执行能力。文章分三部分详细讲解: IDE层:对比Cursor(深度集成的AI原生编辑器)与VS Code+Continue方案,提供配置技巧和高效使用模板; 代码生成层:推荐Claude Code(终端操作)、Aider(Git集成)和Copilot Workspace(PR级协作)三大工具; 代码审查层:
2026-06-10 15:37:50
286
原创 AI编程最佳实践:提示词模板库与质量保障体系
AI代码生成Agent自动化RAG知识库工作流编排但这些技术的效果高度依赖提示词(Prompt)的质量。一个优秀的提示词可以让AI生成高质量的代码,而一个糟糕的提示词则可能导致错误百出。本文将系统总结AI编程的最佳实践,构建一套可复用的提示词模板库和质量保障体系,让你的AI编程能力从"凭感觉"提升到"有体系"。提示词工程原则:具体明确、结构化、示例引导、约束清晰、迭代优化模板库建设:按场景分类,可复用的提示词模板质量保障体系:生成前检查 → 生成中检查 → 生成后检查优化技巧。
2026-06-10 14:15:13
88
群晖系统安装旧电脑变群晖,NAS群辉DS3615(5.2)刷机教程,DIY搭建家庭云私有云。 笔记本台式机自制群晖,u盘刷群辉
2022-02-23
balenaEtcher1.7.8免安装版,img镜像烧写U盘启动盘写盘工具,免安装直接运行windwos版
2022-04-26
大气层1.3.0整合包switch固件14.0.0系统离线升级包,新ns系统离线升级包
2022-03-25
phpcms二次开发文档,网站开发的技术技巧,心得经验。phpcms网站管理后台程序二次开发技术操作。
2022-02-23
switch存档工具Checkpoint v3.7.5游戏存档导出导入工具软件加简单教程
2022-03-17
phpcmsV9.6.3升级补丁漏洞修复代码功能二次开发补丁phpcms网站开发教程文档手册
2022-03-18
switch的BOOT0和BOOT1文件,各个历代版本都有,续航非续航lite用BOOT0BOOT1合集
2022-03-18
ns主机switch游戏机硬破系统专用大气层整合包,自己DIY刷系统必备刷机包,最高支持13.2.1系统,续航/lite专用
2022-03-03
西数个人家庭云PC端桌面版管理软件wdmycloud客户端PC端1
2017-09-25
西数个人家庭云PC端桌面版管理软件wdmycloud客户端PC端2
2017-09-25
ueditor1.3.6-utf8版本,phpcms后台编辑器更换
2020-09-17
移动应用开发项目实战资源包:Flutter电商APP+React Native社交应用+上架运营全流程(附完整源码)
2026-06-08
ROS2机器人开发实战资源包:Navigation2导航+MoveIt2机械臂+YOLO集成(附完整代码+使用教程)
2026-06-08
3D 立体质感 PS字样机 19 款合集 金色 / 金属 / 浮雕效果一键出图
2026-05-13
TypeScript 类型系统与 Vue3 全栈开发实战源码合集
2026-04-29
TypeScript类型系统与Vue3全栈项目实战原创源码
2026-04-29
C语言系统编程与数据结构实战合集:含完整源码+Makefile+详细使用说明
2026-04-29
Go语言并发编程实战项目 - goroutine/channel/锁/高并发demo合集
2026-04-25
高效通用音乐格式转换工具,支持Q音乐常见格式mflac、ogg、mgg转换
2026-04-23
通用音乐格式转换工具,实现无损格式FLAC获取音乐文件
2026-04-23
群晖主机版虚拟机版,NAS群辉DS918+7.1教程,旧电脑改黑群视频
2022-11-07
Switch主题更换教程NS大气层主题替换安装视频教程,大气层主题背景替换教程方法视频。NXThemesInstaller v2
2022-08-13
百度网盘文件夹目录生成软件,一键生成百度云盘的文件及文件夹树形目录结构。自己再结合excel进行编辑,很精美的目录就有了
2022-06-16
switch大气层系统超频插件sys-clk超频ns游戏机大气层系统插件超频
2022-05-03
群晖系统安装旧电脑变群晖,NAS群辉DS918(6.2)刷机教程,DIY搭建家庭云私有云。 笔记本台式机自制群晖,u盘刷群辉
2022-05-03
群晖系统安装旧电脑变群晖,NAS群辉DS3617(6.1.7)刷机教程,DIY搭建家庭私有云。 笔记本台式机群晖,u盘刷群辉
2022-05-03
群晖系统安装虚拟机版群晖,NAS群辉DS918+刷机教程,DIY搭建家庭云私有云。和windows系统并行,虚拟机运行
2022-05-03
batocera巴托塞拉系统,游戏U盘专用系统,制作游戏U盘必备,纯净原版双版本32位64位
2022-04-26
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅