自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(168)
  • 资源 (33)
  • 收藏
  • 关注

原创 AI Agent开发实战㉚|Agent安全加固:从注入攻击到数据泄露的防御

本文探讨了AI Agent的安全加固策略,重点防御Prompt注入攻击和数据泄露风险。文章首先分析了Agent面临的安全威胁全景图,包括外部攻击(Prompt注入、越权访问)和内部风险(数据泄露、恶意工具调用)。针对Prompt注入问题,提供了多层级防御方案:关键词检测、LLM分类识别和输入清洗,并展示了系统Prompt加固模板。在权限控制方面,介绍了基于角色的访问控制(RBAC)实现方案,包括角色权限映射和工具调用权限管理,通过代码示例演示了如何实现用户权限验证。这些安全措施能有效保护Agent免受常见攻

2026-06-16 09:31:23 34

原创 AI Agent开发实战㉙|Agent成本优化:如何在效果和成本间平衡

这篇文章探讨了如何优化AI Agent的成本,在保持效果的同时降低LLM调用费用。主要内容包括: 成本构成分析:LLM调用占70-85%,其中生成任务占45-60%是主要成本项。 模型选择策略: 分层模型架构:根据查询复杂度自动选择不同级别的模型(GPT-3.5/GPT-4) 小大模型协作:先用小模型生成,再用大模型审核修改,可节省60%成本 Token优化: 通过Prompt压缩减少输入Token数量 提供成本计算工具示例,展示不同模型组合的成本差异 文章提供了多个Python代码示例,展示如何实现这些优

2026-06-16 09:30:51 159

原创 AI Agent开发实战㉘|Agent部署与运维:从开发到生产的完整路径

本文介绍了AI Agent从开发到生产环境的完整部署路径,重点涵盖部署前的准备工作、容器化部署方案以及Kubernetes集群部署策略。内容主要包括: 部署前检查清单:详细列出硬件资源、软件环境、依赖服务和安全配置要求 配置管理方案:使用Pydantic进行多环境配置管理 容器化部署:提供Dockerfile编写指南、Docker Compose编排示例以及自动化部署脚本 Kubernetes部署:包含Deployment配置、健康检查、资源限制以及HPA自动扩缩容方案 文章通过具体代码示例,展示了如何实现

2026-06-16 09:30:14 252

原创 AI Agent开发实战㉗|Agent测试与调试:如何保证Agent质量

文章摘要:本文探讨了AI Agent测试的特殊挑战与解决方案。相比传统软件测试,Agent测试面临输出不确定性、难以定义"正确"、依赖LLM API和长流程覆盖困难等问题。作者提出分层测试策略(单元测试→集成测试→E2E测试)和Mock技术,并详细介绍了Prompt测试、工具调用测试、意图识别测试等单元测试方法,以及RAG流程和多轮对话的集成测试要点。文章通过代码示例展示了如何构建可靠的Agent测试体系,为AI系统质量保障提供了实践指南。(149字)

2026-06-16 09:29:41 187

原创 AI Agent开发实战㉖|Agent性能优化实战:从并发到缓存的全链路优化

AI Agent性能优化实战摘要 本文系统介绍了AI Agent性能优化的四个关键维度: 瓶颈定位:通过计时装饰器精准定位LLM调用(60-80%)、向量检索(10-20%)等主要瓶颈环节 并发优化: 异步调用实现检索与意图识别的并行处理,节省30-40%时间 批处理结合信号量控制并发数量 缓存策略: 实现多级缓存(本地+Redis) 对检索结果和Embedding进行缓存,重复查询可节省80%时间 检索优化:针对不同数据规模选择合适的向量索引类型(IVF_FLAT或HNSW) 优化后Agent平均响应时间

2026-06-16 09:28:59 167

原创 AI Agent开发实战㉕|从零搭建生产级Agent:架构设计与技术选型

本文分享了从零搭建生产级AI Agent的系统化架构设计方法。生产级Agent需要满足高可用、可扩展、可观测、安全性和可维护性等核心要求。文章提出了分层架构设计,包括接入层、网关层、Agent服务层、能力层和数据层,并给出了详细的目录结构建议。在核心模块实现部分,重点介绍了配置管理、LLM调用封装和检索器封装的关键代码实现,展示了如何通过环境变量管理配置、使用重试机制增强LLM调用的可靠性,以及实现向量检索功能。这些设计模式和实现细节为开发者构建生产可用的AI Agent提供了实用参考。

2026-06-16 09:28:18 120

原创 AI Agent开发实战㉔|LangChain vs LangGraph vs CrewAI vs AutoGen:2026年Agent框架选型指南

2026年主流AI Agent框架选型指南:本文从性能、易用性、灵活性和生态四个维度对比LangChain、LangGraph、CrewAI和AutoGen四大框架。测试显示LangChain性能最优(平均延迟3.2s),LangGraph灵活性最强(支持复杂状态管理),CrewAI适合多Agent分工协作,AutoGen则适用于需求不明确的对话场景。选型决策树建议:单Agent简单任务用LangChain,复杂流程选LangGraph;多Agent明确任务用CrewAI,需对话澄清则选AutoGen。文中

2026-06-16 09:27:38 600

原创 AI Agent开发实战㉓|AutoGen对话式协作:两个Agent如何通过对话完成任务

摘要 AutoGen是一种基于对话式协作的AI代理框架,通过多个Agent之间的交互式对话完成任务。与CrewAI的任务分配模式不同,AutoGen更适用于需要反复讨论和迭代的场景,如需求澄清、代码开发和数据分析。其核心组件ConversableAgent支持人机对话和Agent间自动对话,GroupChat功能可实现多Agent协同工作。AutoGen提供代码执行沙箱、人工介入模式选择(ALWAYS/NEVER/TERMINATE)和工具集成等高级功能,适用于数据分析、代码审查等需要多方协作的复杂任务。典

2026-06-16 09:26:39 163

原创 AI Agent开发实战㉒|CrewAI多Agent协作实战:让多个Agent分工合作

文章摘要:CrewAI框架通过多Agent协作机制解决了单Agent处理复杂任务时的局限性。该框架包含三个核心组件:Agent(定义专业角色)、Task(分配具体工作)和Crew(协调团队执行)。文章展示了软件开发场景下的多Agent分工优势,并提供了内容生产、代码开发等实战案例。CrewAI支持顺序执行和层级执行两种协作模式,可集成自定义工具,通过专业分工和相互监督显著提升任务质量和效率。典型应用场景包括需求分析、代码编写与审查、自动化内容生产等。

2026-06-16 09:25:26 173

原创 AI Agent开发实战㉑|LangGraph深度实战:用状态图构建复杂Agent工作流

LangGraph深度实战:用状态图构建复杂Agent工作流 摘要: LangGraph突破LangChain的链式结构限制,采用状态图模型支持复杂Agent工作流。其核心由StateGraph(状态容器)、Node(处理节点)和Edge(流转逻辑)组成,实现了循环、分支和状态保持功能。以智能客服为例,完整流程包含意图识别、知识检索、结果判断、用户追问和反馈处理等环节,通过条件边实现动态路由。状态图模型能优雅处理"检索不足→追问→再检索"等循环场景,以及"用户不满意→转人工"等分支场景,显著提升复杂业务逻辑

2026-06-16 09:24:27 269

原创 AI Agent开发实战⑳|RAG系统整体优化:从Pipeline到端到端评估

本文探讨了RAG系统的端到端优化方法,指出单模块优化可能无法解决整体效果问题。文章首先展示了RAG的典型三阶段架构(检索、后处理、生成),然后详细介绍了三类评估指标:1)检索质量指标(Recall@K、MRR、NDCG等);2)生成质量指标(忠实度、相关性、完整性);3)端到端指标(答案准确性、延迟)。通过代码示例演示了如何使用LLM自动评估答案质量,强调需要从整体流程角度进行协同优化,而非孤立改进单个模块。

2026-06-15 16:36:17 122

原创 AI Agent开发实战⑲|生成优化与Prompt工程:让LLM准确输出你想要的答案

RAG生成优化与Prompt工程技巧 本文针对RAG(检索增强生成)场景下LLM输出常见的三大问题——跑题、遗漏和幻觉,提出了系统化的Prompt工程解决方案。核心方法包括: 明确约束原则:通过严格指令限制LLM仅使用检索内容,避免脑补和幻觉 结构化指令设计:采用分步回答模板确保回答完整性和条理性 示例驱动方法:提供few-shot示例引导LLM按预期格式输出 自我检验机制:通过输出前验证和CoT推理提高准确性 特殊场景处理:针对信息冲突、不完整等情况设计专门提示词 质量控制体系:引入格式控制和自动验证环节

2026-06-15 16:35:43 190

原创 AI Agent开发实战⑱|上下文压缩与选择:让LLM看到最有价值的信息

本文探讨了在LLM上下文窗口有限的情况下,如何通过上下文压缩与选择策略高效处理大量文档。核心矛盾在于检索到的文档数量(如50篇)远超LLM处理能力(如5篇),需要平衡信息完整性和Token限制。 解决方案分为两部分: 选择策略: 基于分数选择Top-K文档 MMR算法平衡相关性与多样性 基于查询关键词覆盖度选择最优组合 压缩策略: 摘要压缩:用LLM生成保留关键信息的精简内容 提取式压缩:通过句子嵌入选取最相关的原始句子 文中提供了Python代码示例,包括MMR实现和两种压缩方法,帮助开发者在有限Toke

2026-06-15 16:35:09 79

原创 AI Agent开发实战⑰|多跳检索与知识图谱:让RAG突破单跳限制

文章摘要:多跳检索让RAG突破单跳限制 本文探讨了传统RAG在复杂查询中的局限性,并提出了三种多跳检索解决方案: 单跳检索的局限:无法处理需要分步查询的复杂问题(如"马斯克创立的公司有哪些员工超过10000人"),因为需要先查公司列表再查员工数。 三种多跳检索方案: 迭代检索:分步查询,用前一步结果生成下一步查询 分解检索:先将复杂问题拆解为独立子问题,再并行检索 知识图谱增强检索:利用结构化知识图谱进行实体关系查询 这些方法使AI Agent能像人类一样逐步推理,解决传统RAG只能处理单跳问题的缺陷。

2026-06-15 16:34:38 139

原创 AI Agent开发实战⑯|Query改写与扩展:让检索更懂用户意图

本文介绍了提升检索效果的Query改写与扩展技术,主要解决用户查询与文档表述不一致导致的召回率问题。文章分析了三类常见问题:表达不准确、意图模糊和长尾词缺失,并提出了四种改写策略:1)基于领域词典的同义词扩展;2)利用大模型生成语义相同的不同表述;3)HyDE技术通过生成假设答案进行检索;4)Query2Doc方法将查询扩展为文档描述。最后介绍了多版本查询结果的融合算法RRF(Reciprocal Rank Fusion),通过加权排序综合各查询版本的检索结果。这些技术能有效提升语义检索的召回精度,使系统更

2026-06-15 16:34:07 246

原创 AI Agent开发实战⑮|Rerank重排序实战:Cohere vs ColBERT vs 本地Cross-Encoder的实测对比

本文对比了三种Rerank(重排序)技术方案:Cohere API、ColBERT和本地Cross-Encoder。Rerank可解决向量检索中"近似≠精确"的问题,通过二次排序提升Top结果的相关性。Cohere Rerank效果最佳但需付费;ColBERT速度较快,准确率接近Cross-Encoder;本地Cross-Encoder免费但计算成本较高。实测显示,好的Rerank能使检索准确率提升20%以上。文章提供了各方案的Python实现代码,并分析了性能、成本及适用场景,建议根据预算、延迟和准确率需

2026-06-15 16:33:34 197

原创 AI Agent开发实战⑭|检索策略深度对比:向量检索 vs BM25 vs 混合检索实测选型

本文对比了三种检索策略(向量检索、BM25关键词检索和混合检索)的性能表现。向量检索擅长语义理解但精确匹配差,BM25精于关键词匹配但缺乏语义理解,混合检索结合两者优势。通过1万篇中文技术文档的测试,混合检索(alpha=0.7)在Recall@5、Recall@10和MRR@10指标上分别达到80.1%、89.2%和0.75,比单一策略提升9-12%。建议根据场景需求选择:语义查询用向量检索,精确匹配用BM25,综合场景优先混合检索。

2026-06-15 16:33:01 275

原创 AI Agent开发实战⑬|向量数据库选型实战:Chroma vs Milvus vs Qdrant百万级数据性能对比

本文对比了三款主流向量数据库(Chroma、Milvus、Qdrant)在不同数据规模下的性能表现。测试结果显示,在小规模数据(<10万向量)下,Chroma简单易用且性能足够;中等规模(10万-100万)推荐Qdrant,其内存效率高且支持元数据过滤;大规模数据(100万以上)则Milvus表现最优,具备最强的写入和并发能力。关键结论:选型需考虑未来数据规模,避免中途迁移成本,小数据用Chroma,中大规模优先Qdrant或Milvus。

2026-06-15 16:32:24 327

原创 AI Agent开发实战⑫|Embedding模型选型实战:中文场景下OpenAI、BGE、M3E的对比测试

本文对比测试了5款主流Embedding模型在中文场景下的表现,包括OpenAI、BGE和M3E系列。通过财务、技术、新闻和通用四个领域的测试发现:BGE-large-zh在中文财务领域表现最佳,Recall@5比OpenAI高3.8%;BGE-m3对中英混合和技术文档处理最优;OpenAI在新闻领域略优。测试还显示,本地部署的BGE模型在中文场景下性价比最高,而OpenAI对长文本处理更稳定。根据场景需求,中文优先选BGE-large-zh,中英混合选BGE-m3,预算充足可考虑OpenAI。

2026-06-15 16:31:16 281

原创 AI Agent开发实战⑪|RAG分块策略深度对比:固定长度、语义分块、结构化分块的实测选型

本文对比了RAG系统中的三种分块策略:固定长度分块、语义分块和结构化分块。固定长度分块简单通用但容易切断语义信息,导致检索质量下降;语义分块通过计算相似度保持语义完整性,但计算成本较高;结构化分块利用文档标题层级,在保留结构信息的同时平衡语义完整性。实测表明,结构化分块在500篇文档测试中表现最优,能提升30%的检索准确率,尤其适合技术文档、财务报告等结构化内容。建议根据文档类型选择分块策略,混合使用效果更佳。

2026-06-15 16:30:34 202

原创 AI Agent开发实战⑩|Agent安全护栏:输入过滤到输出审核的完整防御体系

本文介绍了构建AI Agent安全防御体系的完整方案,重点分析了Agent系统的三大攻击面(输入层、工具层、输出层)及其具体风险类型。文章提供了详细的Prompt注入检测代码实现,包括基于正则表达式的模式匹配检测器(PromptInjectionDetector类)和LLM辅助验证器(LLMInjectionValidator类)。检测器能够识别指令覆盖、角色扮演逃逸、编码混淆等多种注入技术,并给出风险等级评估。此外还介绍了输入清理方法,通过移除分隔符和恶意指令模式来保留正常输入。全文强调从输入过滤到输出审

2026-06-12 13:33:24 93

原创 AI Agent开发实战⑨|Agent评估体系设计:从LLM-as-Judge到多维度指标的实战方法

本文介绍了AI Agent评估体系的设计方法,针对Agent输出概率性、非确定性的特点,提出了一套多维度、自动化的评估框架。评估体系包含五个核心维度:任务完成度、响应质量、效率指标、安全性和用户体验。文章重点展示了如何通过LLM-as-Judge技术实现规模化自动评估,包括任务完成度分类、质量指标量化计算等方法,并提供了Python代码示例说明评估流程的实现。这套评估体系解决了传统测试方法无法适应Agent特性的问题,能够全面、高效地评估Agent性能,为AI Agent的开发和优化提供科学依据。

2026-06-12 13:32:50 154

原创 AI Agent开发实战⑧|RAG系统深度实战:检索增强的全链路优化与7个让结果更精准的技巧

《RAG系统深度实战:检索增强的全链路优化技巧》摘要 本文深入剖析RAG(检索增强生成)系统的核心优化策略,指出检索环节而非生成环节是影响结果质量的关键瓶颈。文章系统性地分解RAG六大模块(文档入库、分块、向量化、检索、重排序、生成),重点提出分块策略应根据文档类型(技术文档、财务报告等)动态调整大小(300-1500字符)和重叠比例(0-200字符),推荐BGE等中文优化Embedding模型,并创新性地提出混合检索方法(结合向量与BM25算法,权重可调)。通过7个实战技巧,包括语义分块、结构化分块、本地

2026-06-12 13:32:13 118

原创 AI Agent开发实战⑦|Agent框架横评2026:LangChain vs LangGraph vs CrewAI vs AutoGen 实测选型

本文对四大AI Agent开发框架(LangChain、LangGraph、CrewAI、AutoGen)进行了5000+次实测对比,从四个维度提供选型参考: 上手难度:CrewAI最友好(9.2分),LangGraph最硬核(5.5分) 功能完整性:LangGraph和LangChain领先(30/35和28/35) 性能表现:LangGraph成功率最高(85.8%),Token效率最优(平均4883/task) 调试体验:LangGraph调试功能最完善(22/25) 综合评分显示,LangGraph

2026-06-12 13:31:22 647

原创 AI Agent开发实战⑥|Agent工业化指南:日志、监控、告警与故障自愈的实战架构

本文系统阐述了AI Agent在工业生产中的监控与故障处理方案,提出了五层监控体系:请求层、行为层、LLM层、工具层和业务层。针对Agent特有的执行路径不固定、LLM输出不可预测等挑战,文章详细展示了请求层指标采集(如成功率、耗时、Token消耗)的实现代码,并介绍了基于OpenTelemetry的行为追踪技术,可记录Agent的完整决策路径。这种架构设计使开发者能像监控微服务一样全面掌握Agent运行状态,及时发现问题根源,避免"不知为何变差"的困境。

2026-06-12 13:30:40 190

原创 AI Agent开发实战⑤|Agent规划系统:从简单规划到自反思的三种模式实战

摘要:本文探讨了AI Agent规划系统的三种模式:One-shot、Plan-and-Execute和Self-Reflection。无规划的Agent容易因缺乏预判而失败,而有规划的Agent能提前明确步骤、依赖关系和中间产物。One-shot模式适用于简单任务,一次性生成完整计划但缺乏灵活性;Plan-and-Execute模式将规划与执行分离,适合多步骤任务;Self-Reflection模式通过迭代优化处理复杂易错任务。文章通过代码示例展示了各模式的实现逻辑,并比较了其优缺点及适用场景,为开发者选

2026-06-12 13:29:52 331

原创 AI Agent开发实战④|记忆不只是向量数据库:Agent三层记忆架构设计与8个踩坑实录

本文探讨了AI Agent的三层记忆架构设计及其实践中的常见问题。文章首先通过客服Agent遗忘工单号的案例,指出仅依赖向量数据库无法解决记忆问题,提出需要构建长期记忆(向量数据库)、短期记忆(会话历史)和工作记忆(任务状态)的三层协作体系。核心内容包括: 三层记忆设计架构与协作机制,通过优先级和LLM综合判断实现记忆检索 8个典型踩坑问题及解决方案,包括: 向量检索结果过多导致质量下降(建议添加重排序层) 对话历史过长导致性能问题(实现上下文压缩策略) 记忆层之间缺乏优先级导致冲突 工作记忆未及时清理造成

2026-06-12 13:29:15 336

原创 AI Agent开发实战③|工具设计三个层:很多教程只讲了第一层

本文介绍了AI Agent开发中工具设计的三个关键层次: Schema定义层:核心是让Agent正确理解工具用法,包括详细的参数描述、枚举值定义、默认值设置和示例说明,需注意参数关系和禁忌值标注。 错误处理层:针对网络超时、参数错误等常见问题建立分层处理机制,包括错误分类(参数错误、网络错误等)和重试策略(如指数退避),确保工具稳定性。 感知优化层:通过Schema优化提升Agent使用体验,包括参数预处理、标准化返回和错误信息设计。 文章通过真实案例对比,展示了从基础功能实现到生产级工具开发的演进过程,强

2026-06-12 13:27:51 194

原创 AI Agent开发实战②|思维链vs ReAct:2026年主流推理模式实测对比,附选型决策树

核心思想:让模型在给出最终答案之前,先输出一系列的中间推理步骤。普通问答:问:小明有5个苹果,给了小红2个,又买了3个,小明现在有几个苹果?答:6个CoT回答:问:小明有5个苹果,给了小红2个 → 剩3个,又买了3个 → 3+3=6答:6个CoT的本质:把推理过程显式化,让模型在"思考区"进行多步推理,而不是一步到位猜答案。适用场景:数学计算、逻辑推理、需要多步分析的问题。"""标准CoT调用"""

2026-06-12 13:27:02 289

原创 AI Agent开发实战①|从“问答机器人“到“智能体“:AI Agent核心架构原理解析

这篇文章解析了AI Agent的核心架构设计,指出传统LLM调用与AI Agent的本质区别,并详细拆解AI Agent的六大核心组件:感知层、记忆层、规划层、工具层、行动层和反思层。 关键要点: AI Agent与普通问答系统的区别在于采用"感知→思考→行动→反馈→迭代"的闭环工作模式,而非单轮问答 六大核心组件形成闭环系统:感知层处理多源输入,记忆层实现短/长期记忆存储,规划层进行任务分解和策略选择,工具层提供外部交互能力 文章通过代码示例展示了各模块的实现细节,包括记忆检索优化、不同复杂度任务的规划策

2026-06-12 13:26:27 258

原创 本地部署大模型完全指南⑧:实战应用——本地AI编程助手

本地AI编程助手实战指南 本文介绍如何在VS Code中部署本地大模型作为编程助手,解决云端助手的隐私、离线使用和成本问题。提供两种集成方案: Continue插件 - 推荐方案,支持代码补全、审查、重构等功能,配置简单 CodeGPT插件 - 功能更全面,支持多模型切换 详细指导包括: Ollama连接配置 自定义代码审查工作流 提示词模板设计 Git提交消息自动生成 项目级代码理解(RAG技术) 本地部署优势: 数据不出本地 离线可用 一次性投入无月费 可定制化程度高 适合开发者在敏感代码环境下使用,提

2026-06-11 23:44:20 311

原创 本地部署大模型完全指南⑦:性能优化与资源控制

本地大模型性能优化指南:显存、速度与内存管理 本文提供了本地部署大模型时的实用性能优化方案,重点解决三大核心问题: 显存优化:通过量化技术(Int4/Int8)可减少75%显存占用,推荐q4_0或q4_k_m量化方案;合理控制上下文窗口大小(问答2048,文档分析8192);设置环境变量管理显存碎片化 速度提升:确保GPU加速生效,采用批处理请求和预热机制,通过并发设置(OLLAMA_NUM_PARALLEL)提升吞吐量,注意并发数会按比例增加显存需求 内存管理:采用动态内存清理策略,对低配置设备可启用CP

2026-06-11 23:43:30 419

原创 本地部署大模型完全指南⑥:多模型管理与智能切换

本文将介绍如何高效管理本地部署的多个大语言模型,实现智能切换和按需调取。主要内容包括: 模型分层策略:根据任务需求将模型分为轻量级(1.5B-3B)、中量级(7B-14B)和重量级(32B-72B)三个层级,并给出推荐模型分工矩阵。 Ollama进阶管理: 模型自动加载与卸载控制 设置模型保持时间(从30秒到24小时不等) 并发请求处理配置(最多支持4个并发) 智能调度系统:基于Python的自动路由方案,通过关键词匹配为不同类型任务(编程、数学、翻译等)选择最优模型。 文章提供了完整的代码示例和实用建议,

2026-06-11 23:42:42 250

原创 本地部署大模型完全指南⑤:搭建美观的对话界面(Open WebUI)

本地大模型对话界面部署指南 本文介绍了如何为本地部署的大语言模型搭建美观易用的Web对话界面,重点推荐Open WebUI方案: 功能优势: 提供类似ChatGPT的交互体验 支持多模型切换、文件上传、对话历史管理 配备提示词模板库和响应式设计 部署方式: 推荐Docker一键部署(3000端口映射) 详细说明容器参数和持久化配置 提供原生安装备用方案 核心配置: 连接Ollama的两种方法 管理员面板的关键设置项 对话参数(温度、上下文长度等)调整 高级功能: 多模型管理 文档问答(RAG)支持多种文件格

2026-06-11 23:41:37 446

原创 本地部署大模型完全指南④:API服务化与远程访问

本文是本地大模型部署指南的第四部分,重点讲解如何将本地模型API服务化以实现远程访问。文章首先指出API服务化的重要性,包括团队协作、系统集成和弹性扩展等优势。 主要内容分为两部分: Ollama原生API详解:介绍了Ollama内置的HTTP API端点(如文本生成、对话、向量化等),并提供了流式/非流式调用的Python示例代码和多轮对话实现方法。 API网关构建方案:提出使用Nginx作为反向代理,配置HTTPS、请求限流和API Key鉴权,同时配合Python编写的鉴权服务,实现企业级的安全访问控

2026-06-11 23:40:50 367

原创 本地部署大模型完全指南③:私有知识库搭建(Ollama + Dify)

本文介绍了如何利用 Dify 和 Ollama 在本地搭建私有知识库,解决大模型对业务文档理解不足的问题。内容涵盖: 为什么需要知识库:大模型无法获取企业内部文档和最新信息,RAG(检索增强生成)技术通过搜索本地文档补充上下文。 Dify 的核心功能: 知识库管理(文档上传/向量化/检索) 多模型支持(Ollama/OpenAI等) 可视化工作流编排 部署步骤: 通过 Docker Compose 快速安装 Dify 配置 Ollama 模型和 Embedding 模型 创建知识库并优化文档分段策略 应用搭

2026-06-11 23:39:48 690

原创 本地部署大模型完全指南②:Ollama一键部署DeepSeek与Qwen

本文是本地部署大模型的第二篇实战指南,重点介绍如何使用Ollama一键部署国内两大热门开源大模型DeepSeek和通义千问(Qwen)。文章首先对比了两者的特点:DeepSeek在数学推理和编程方面表现突出,而Qwen则在综合任务和函数调用生态上更具优势。接着详细讲解了Ollama的核心操作命令,包括模型管理、存储位置调整等,并给出了不同硬件配置下的模型选择建议。 实战部分分别展示了DeepSeek和Qwen的部署过程:通过简单的ollama run命令即可启动模型,并提供了Python和Node.js的A

2026-06-11 23:39:02 654

原创 本地部署大模型完全指南①:硬件选型与环境搭建

本地部署大模型指南:硬件选型与环境搭建 本文提供本地部署大模型的完整入门指南,重点解决硬件选型与环境配置问题。本地部署具有数据安全、零延迟、离线可用等优势,适合企业和高频用户。 硬件选型:核心指标是显存(VRAM),7B模型需4GB(Int4量化),14B需8GB。RTX 3060可跑7B~14B模型,RTX 4090支持32B模型,企业级部署需多卡A100/H100。显存不足时可采用CPU运行、模型量化或蒸馏版本三种方案。 环境搭建:推荐使用Ollama工具,支持Windows/macOS/Linux一键

2026-06-11 23:38:03 910

原创 我的AI辅助开发工具链2026版:从IDE插件到Agent的完整配置指南

《我的AI辅助开发工具链2026版》摘要: 本文系统介绍了2026年AI辅助开发的完整工具链配置方案。作者指出,当前AI开发工具已从单点应用发展为覆盖全流程的体系,强调工具联动、本地化部署和Agent自主执行能力。文章分三部分详细讲解: IDE层:对比Cursor(深度集成的AI原生编辑器)与VS Code+Continue方案,提供配置技巧和高效使用模板; 代码生成层:推荐Claude Code(终端操作)、Aider(Git集成)和Copilot Workspace(PR级协作)三大工具; 代码审查层:

2026-06-10 15:37:50 286

原创 AI编程最佳实践:提示词模板库与质量保障体系

AI代码生成Agent自动化RAG知识库工作流编排但这些技术的效果高度依赖提示词(Prompt)的质量。一个优秀的提示词可以让AI生成高质量的代码,而一个糟糕的提示词则可能导致错误百出。本文将系统总结AI编程的最佳实践,构建一套可复用的提示词模板库和质量保障体系,让你的AI编程能力从"凭感觉"提升到"有体系"。提示词工程原则:具体明确、结构化、示例引导、约束清晰、迭代优化模板库建设:按场景分类,可复用的提示词模板质量保障体系:生成前检查 → 生成中检查 → 生成后检查优化技巧。

2026-06-10 14:15:13 88

抖音号运营攻略,抖音短视频平台创作教程全攻略

抖音号运营攻略,抖音短视频平台创作教程全攻略

2022-02-23

群晖系统安装旧电脑变群晖,NAS群辉DS3615(5.2)刷机教程,DIY搭建家庭云私有云。 笔记本台式机自制群晖,u盘刷群辉

1、亲测成功,一个U盘即可将旧电脑变群晖 2、刷机教程+程序包+群晖工具 3、家庭云共享,云存储,方便实用 4、内含完整教程,步骤详细,有截图 套件的功能及用法,请您查阅正版群晖套件的使用说明, 套件非常多,我无法逐一出教程或解答。 自制群晖对电脑要求很低,运行速度没有问题。很多网友问网速快不快,网速与您本地网速以及旧电脑网卡的情况有关。 关于外网能否访问,如果您的网络有外网固定IP就可以实现外网访问,如果没有就只能局域网访问。外网固定IP是找宽带运营商沟通获取的,不是局域网分配的内网固定IP。 有了外网固定IP,需要根据自己路由器的操作手册进行配置IP映射,路由器不同配置方法不同。 制作系统前,请先通过挂载其他电脑或者系统U盘的方式,格式化旧电脑的硬盘,再进行制作,否则会造成制作失败。

2022-02-23

balenaEtcher1.7.8免安装版,img镜像烧写U盘启动盘写盘工具,免安装直接运行windwos版

windwos系统使用 balenaEtcher 1.7.8 免安装,直接运行

2022-04-26

大气层1.3.0整合包switch固件14.0.0系统离线升级包,新ns系统离线升级包

整合了1.3.0新固件 包含14.0.0离线升级包 AWOO、DBI等工具 远程指导,v:herobetty1201

2022-03-25

大气层小U盘白色注入器烧写烧录程序及教程,ns-atmosphere大气层白色u盘更换bin文件

内含: 烧写程序 教程 bin文件

2022-03-25

KOF97KOF94-2002PC端经典怀旧游戏,无需安装解压缩即玩

KOF97KOF94-2002PC端经典怀旧游戏,无需安装解压缩即玩

2022-02-23

FC模拟器小霸王怀旧游戏ROM模拟器游戏,红白机PC端电脑模拟器+游戏资源整合包

内含:FC模拟器、精选游戏ROM包2400个

2022-02-23

phpcms二次开发文档,网站开发的技术技巧,心得经验。phpcms网站管理后台程序二次开发技术操作。

本教程包括多年积累的,phpcms后台二次开发中遇到的问题解决、技术教程等。 包括: SEOtitie优化、更换后台编辑器、增加全站搜索、if语句、后台样式修改、响应式指向性访问、分页样式修改、缩略图优化、选项字段优化、表单优化、评论样式等

2022-02-23

switch存档工具Checkpoint v3.7.5游戏存档导出导入工具软件加简单教程

ns存档管理器checkpoint是一款非常好用的Switch游戏存档管理器,可以帮助玩家自由地替换别人分享的存档,或是导出自己的存档分享给别人,完美支持TX OS或大气层。

2022-03-17

phpcmsV9.6.3升级补丁漏洞修复代码功能二次开发补丁phpcms网站开发教程文档手册

本压缩包包括多年积累的phpcms网站开发升级补丁,漏洞修复补丁。 其中包括教程文档: 后台安装过程中报错 弹出新窗口而不是新选项卡 浏览器不支持缩略图flash上传改H5 表单发送的邮件不显示表单内容 升级后台编辑器-ckeditor 等26个教程文档。 以及17个直接替换的漏洞补丁升级文件

2022-03-18

switch的BOOT0和BOOT1文件,各个历代版本都有,续航非续航lite用BOOT0BOOT1合集

switch的BOOT0和BOOT1文件,各个历代版本都有,续航非续航lite用BOOT0BOOT1合集

2022-03-18

ns主机switch游戏机硬破系统专用大气层整合包,自己DIY刷系统必备刷机包,最高支持13.2.1系统,续航/lite专用

请先确认自己的机器是否为硬po。 本整合包属于硬破包,可用于系统升级,TX转大气,新机刷机,单转双系统使用。 需要其他资源可以关注我,看我发布的其他内容。

2022-03-03

述职报告模板,年底年终网络部述职报告范本

述职报告模板,年底年终网络部述职报告范本

2022-02-23

西数个人家庭云PC端桌面版管理软件wdmycloud客户端PC端1

自从西数改版了网站后,以前的家庭云设备mycloud的PC端管理软件就找不到下载地址了,我也是找了好久,才找到。现在的mycloud只提供web版的管理,其实并没有以前的桌面客户端方便使用,因此我现在提供出来,大家可以放心下载,绝对是PC端的版本的客户端 由于软件大于了60m,我分了两部分,在我的csdn中可以找到

2017-09-25

西数个人家庭云PC端桌面版管理软件wdmycloud客户端PC端2

自从西数改版了网站后,以前的家庭云设备mycloud的PC端管理软件就找不到下载地址了,我也是找了好久,才找到。现在的mycloud只提供web版的管理,其实并没有以前的桌面客户端方便使用,因此我现在提供出来,大家可以放心下载,绝对是PC端的版本的客户端 由于软件大于了60M,我分成了两部分,两个压缩包都下载好,放在同一个目录下,解压缩就可以了

2017-09-25

PDF合并 PDF整合 破解

小巧,好用的PDF合并软件,轻松吧多个pdf合并

2017-07-04

ueditor-dev-1.5.0.rar

ueditor1.5.x版本,phpcms后台编辑器更换,可以替换phpcms的后台编辑器,更智能、更优化、功能更强大的后台编辑器

2020-09-17

ueditor1.3.6-utf8版本,phpcms后台编辑器更换

Ueditor1.3.6版本,百度专用后台编辑器,可以替换phpcms的后台编辑器,更智能、更优化、功能更强大的后台编辑器

2020-09-17

局域网监控 第三只眼 注册机

局域网监控 第三只眼 注册机,配套破解版的注册机

2017-07-04

移动应用开发项目实战资源包:Flutter电商APP+React Native社交应用+上架运营全流程(附完整源码)

## 资源简介 本资源包包含完整的移动应用开发实战代码和教程,涵盖跨平台开发(Flutter/React Native)、原生技术进阶(Android Jetpack/iOS Core Animation)、上架与运营全流程。适合移动开发初学者、进阶工程师、独立开发者学习使用。 ## 资源内容 ### 模块1:Flutter电商APP - 完整电商应用:首页、商品详情、购物车、个人中心 - Provider状态管理:购物车、商品、用户状态分离管理 - 自定义UI组件:搜索栏、轮播图、分类网格、商品卡片 - 数据模型:Product、CartItem、User完整模型定义 - 网络请求:Dio封装,支持拦截器、错误处理 ### 模块2:React Native社交应用 - 完整社交应用:首页动态、发现、发布、消息、个人中心 - 导航架构:React Navigation 6,底部Tab + 堆栈导航 - 状态管理:Context API + AsyncStorage持久化 - 自定义Hook:useAuth、useTheme、usePosts - 组件化开发:FeedCard、StoryBar、CommentItem等 ### 模块3:完整UI组件库 - Flutter组件:Button、Input、Card、Dialog、Loading - React Native组件:Button、Input、Avatar、Badge、List - 主题系统:支持亮色/暗色模式切换 - 响应式布局:适配不同屏幕尺寸 ### 模块4:Android Jetpack进阶 - ViewModel:生命周期感知的数据管理 - LiveData:可观察数据持有者 - Room:本地数据库操作 - Navigation:单Activity多Fragment架构 - WorkManager

2026-06-08

ROS2机器人开发实战资源包:Navigation2导航+MoveIt2机械臂+YOLO集成(附完整代码+使用教程)

## 资源简介 本资源包包含完整的ROS2机器人开发实战代码和教程,涵盖8大核心模块,累计代码量5000+行,配套文档30+页。适合ROS2初学者、机器人开发工程师、自动驾驶从业者学习使用。 ## 资源内容 ### 模块1:ROS2基础入门 - 话题通信示例代码(发布者-订阅者模式) - 服务通信示例(请求-响应模式) - 动作通信示例(目标-反馈-结果模式) - 参数管理示例 ### 模块2:Navigation2导航实战 - 完整导航配置文件(nav2_params.yaml) - 代价地图配置(全局/局部) - 控制器/规划器/恢复行为配置 - Waypoint导航示例 ### 模块3:MoveIt2机械臂控制 - MoveIt配置文件模板 - 启动文件(demo.launch.py) - 轨迹规划示例(笛卡尔路径) - 抓取-放置完整流程代码 ### 模块4:SLAM建图案例 - Cartographer SLAM配置 - SLAM Toolbox配置 - RTAB-Map配置 - 多机器人SLAM示例 ### 模块5:YOLO集成与目标检测 - YOLOv8 + ROS2集成节点(Python) - 目标检测示例代码 - TensorRT部署示例(导出+推理) - 激光雷达聚类算法(DBSCAN) ### 模块6:Gazebo仿真环境 - 世界文件(world files) - 机器人URDF模型 - 传感器插件配置(相机/激光雷达) - 物理参数设置 ### 模块7:URDF模型编写 - URDF示例(移动机器人模型) - XACRO模板(可复用宏) - 网格文件(mesh) - 模型验证工具 ### 模块8:实机调试与传感器标定 - 相机标定工具(棋盘格) - 激光雷达标定 - IMU标定 - 多机通信配置(ROS_DOMAIN_ID)

2026-06-08

3D 立体质感 PS字样机 19 款合集 金色 / 金属 / 浮雕效果一键出图

再也不用慢慢做 3D 字了! 19 款高级 3D 立体质感 PS 字样机,金色、金属、浮雕效果拉满,一键生成超质感标题字。 适合平面设计、美工、电商设计、小红书封面、B 站封面、UI 设计使用。 素材干净无冗余,导入即用,提升出图速度 10 倍 +。

2026-05-13

TypeScript 类型系统与 Vue3 全栈开发实战源码合集

本资源为 TypeScript 进阶实战学习包,包含 TS 高级类型编程、装饰器、声明文件案例,搭配 Vue3+TS+Pinia 完整项目模板,附带 Vite 配置、TS 配置、Turborepo、ESBuild 工程化配置与 VSCode 调试文件。所有代码完整可运行,附带详细安装启动教程,适合 TS 入门进阶、Vue3 全栈开发学习使用,资源为原创整理,仅供个人学习参考。

2026-04-29

TypeScript类型系统与Vue3全栈项目实战原创源码

本资源为原创TypeScript学习实战资料,包含TS高级类型编程、装饰器、全局声明文件等核心案例,搭配Vue3+TS+Pinia完整基础项目,附带Vite配置、TS配置、Turborepo工程化、ESBuild打包、VSCode调试配置全套文件。结构清晰、注释完整、全部代码手动原创编写,无抄袭无版权问题,附带详细安装与运行使用教程,适合前端进阶、TypeScript深度学习、Vue3项目开发参考使用。

2026-04-29

C语言系统编程与数据结构实战合集:含完整源码+Makefile+详细使用说明

本资源是C语言进阶实战学习包,覆盖两大核心模块: 1. 数据结构与算法:链表、二叉树、排序/查找算法的C语言实现与优化; 2. Linux系统编程:文件IO、进程线程、TCP Socket网络编程实战,附带一键编译的Makefile脚本。 【使用方法】 1. 环境准备:Linux系统(Ubuntu/CentOS),安装GCC与make工具:sudo apt install gcc make -y 2. 编译运行:进入对应模块目录,执行make命令编译,运行生成的可执行文件即可 3. 学习建议:先阅读源码注释理解逻辑,再修改参数运行观察效果,可基于本项目扩展功能 资源适合C语言进阶学习者、Linux后端开发入门者使用,所有代码均为原创可直接运行,无版权风险。

2026-04-29

Go语言并发编程实战项目 - goroutine/channel/锁/高并发demo合集

本资源为 Go 语言并发编程实战项目合集,覆盖 goroutine、channel、互斥锁、读写锁、WaitGroup、高并发服务等核心知识点,包含可直接运行的实战 demo、注释详解、学习笔记。 使用方法:下载后直接用 GoLand/VSCode 打开运行,对照注释学习并发原理,适合 Go 入门、后端开发、面试备考使用。

2026-04-25

在线视频下载,BiliDown小插件,解析链接视频获取

在线视频下载,BiliDown小插件,解析链接视频获取

2026-04-23

高效通用音乐格式转换工具,支持Q音乐常见格式mflac、ogg、mgg转换

本工具是一款功能强大且操作简便的通用音乐格式转换利器。它支持多种主流音乐格式之间的相互转换,特别针对 Q常见的音频格式进行优化。

2026-04-23

通用音乐格式转换工具,实现无损格式FLAC获取音乐文件

无损音乐下载,虽然不是全部能成功,但是大部分都可以成功。注意如果被不能下载的占了进程,要去关闭,这样做那些能下载的才会有下载进度。

2026-04-23

群晖主机版虚拟机版,NAS群辉DS918+7.1教程,旧电脑改黑群视频

1、N多个版本,力推918+ 7.1,视频教程,视频! 2、刷机教程+程序包+群晖工具+虚拟机工具 解压码双击压缩包在备注里 套件用法,查阅正版群晖套件使用说明, 自制群晖对电脑要求很低,运行速度没有问题。 固定IP外网访问,找运营商沟通

2022-11-07

Switch主题更换教程NS大气层主题替换安装视频教程,大气层主题背景替换教程方法视频。NXThemesInstaller v2

大气层用户专用,早就看腻了一黑一白的主题,是时候换换了。 ns的主题包括7个:锁屏、主屏、所有软件、设置信息、用户信息、玩家选择、新闻。 不过一般新闻是可以不安装的。 网上有很多下载主题文件的地方,但是如果你不会替换方法也是不行的, 我这里是替换主题的大气层插件; 视频教程; 文档教程(如果安装是报错,可以看文档最后面)。 大气层主题也可以自己制作,我还有全套的制作视频教程,会简单的修改图片大小,就可以做,看我其他的发布内容

2022-08-13

百度网盘文件夹目录生成软件,一键生成百度云盘的文件及文件夹树形目录结构。自己再结合excel进行编辑,很精美的目录就有了

亲测可用 找到百度网盘文件 生成目录txt 复制到excel 编辑保存

2022-06-16

switch大气层系统超频插件sys-clk超频ns游戏机大气层系统插件超频

下载、解压缩、复制到sd卡 然后进入相册,找到sys-clk,打开就可以设置不同场景下的超频了 如果需要特斯拉调用,但是显示没有启动,需要用相册里的工具盒子先设置sys-clk的开机启动 工具盒子是:DeepSea-Toolbox插件

2022-05-03

群晖系统安装旧电脑变群晖,NAS群辉DS918(6.2)刷机教程,DIY搭建家庭云私有云。 笔记本台式机自制群晖,u盘刷群辉

1、亲测成功,一个U盘即可将旧电脑变群晖 2、刷机教程+程序包+群晖工具 3、家庭云共享,云存储,方便实用 4、内含完整教程,步骤详细,有截图 套件的功能及用法,请您查阅正版群晖套件的使用说明, 套件非常多,我无法逐一出教程或解答。 自制群晖对电脑要求很低,运行速度没有问题。很多网友问网速快不快,网速与您本地网速以及旧电脑网卡的情况有关。 关于外网能否访问,如果您的网络有外网固定IP就可以实现外网访问,如果没有就只能局域网访问。外网固定IP是找宽带运营商沟通获取的,不是局域网分配的内网固定IP。 有了外网固定IP,需要根据自己路由器的操作手册进行配置IP映射,路由器不同配置方法不同。 制作系统前,请先通过挂载其他电脑或者系统U盘的方式,格式化旧电脑的硬盘,再进行制作,否则会造成制作失败。

2022-05-03

群晖系统安装旧电脑变群晖,NAS群辉DS3617(6.1.7)刷机教程,DIY搭建家庭私有云。 笔记本台式机群晖,u盘刷群辉

1、亲测成功,一个U盘即可将旧电脑变群晖 2、刷机教程+程序包+群晖工具 3、家庭云共享,云存储,方便实用 4、内含完整教程,步骤详细,有截图 套件的功能及用法,请您查阅正版群晖套件的使用说明, 套件非常多,我无法逐一出教程或解答。 自制群晖对电脑要求很低,运行速度没有问题。很多网友问网速快不快,网速与您本地网速以及旧电脑网卡的情况有关。 关于外网能否访问,如果您的网络有外网固定IP就可以实现外网访问,如果没有就只能局域网访问。外网固定IP是找宽带运营商沟通获取的,不是局域网分配的内网固定IP。 有了外网固定IP,需要根据自己路由器的操作手册进行配置IP映射,路由器不同配置方法不同。 制作系统前,请先通过挂载其他电脑或者系统U盘的方式,格式化旧电脑的硬盘,再进行制作,否则会造成制作失败。

2022-05-03

群晖系统安装虚拟机版群晖,NAS群辉DS918+刷机教程,DIY搭建家庭云私有云。和windows系统并行,虚拟机运行

1、亲测成功,电脑上安装虚拟机就可以(win8系统及以上) 2、刷机教程+程序包+群晖工具+虚拟机工具 3、家庭云共享,云存储,方便实用 4、内含完整教程,步骤详细,有截图 套件的功能及用法,请您查阅正版群晖套件的使用说明, 套件非常多,我无法逐一出教程或解答。 自制群晖对电脑要求很低,运行速度没有问题。很多网友问网速快不快,网速与您本地网速以及旧电脑网卡的情况有关。 关于外网能否访问,如果您的网络有外网固定IP就可以实现外网访问,如果没有就只能局域网访问。外网固定IP是找宽带运营商沟通获取的,不是局域网分配的内网固定IP。 有了外网固定IP,需要根据自己路由器的操作手册进行配置IP映射,路由器不同配置方法不同。

2022-05-03

batocera巴托塞拉系统,游戏U盘专用系统,制作游戏U盘必备,纯净原版双版本32位64位

我提供的是链接地址,文档。 batocera镜像文件,img,纯净版,仅供学习交流使用 配合U盘写盘工具,制作出自己的游戏U盘,随便插电脑上就可以玩 (不提供系统使用教程,仅提供托塞拉系统镜像文件)

2022-04-26

魔百盒CM201-2免拆机刷机教程,及固件包。运营商网络机顶盒CM201消除限制教程

详细看教程 家里的运营商机顶盒可是试试 CM201-2型号 遥控器要在哦

2022-04-26

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除