- 博客(1299)
- 收藏
- 关注
RSS订阅
原创 在个人电脑上运行Llama 3 70B大规模模型指南
随着人工智能和机器学习技术的迅猛发展，像Llama 3 70B这样的庞大语言模型已经成为了研究、开发和应用中的重要工具。这篇文章将详细介绍如何在个人电脑上运行Llama 3 70B大模型，并涵盖硬件要求、软件环境配置、安装步骤、运行示例和常见问题的解决方案。虽然运行这样一个大规模的模型在性能上有限制，但对于实验和学习非常有帮助。
2024-06-15 10:35:11
8276
原创 2024！国内AI大模型平台哪家强？全方面测评来了
这篇仅是开坑哈，后面会持续更新的～主旨就是想要在滚滚浪潮中帮助AI开发者发现、汇聚到简单、好用的AI大模型平台&开发者社区上来，共建国内繁荣AIGC生态！！有些规模太小、不好用、吃相太难看（没几个模型就要走付费变现路子的）的平台我就先不放上来啦。
2024-06-05 17:14:02
8451
原创 如何学习训练大模型——100条建议（附详细说明）_如何训练自己的大模型
通过深入了解本文中的这些细节，并在实际项目中应用相关知识，将能够更好地理解和利用大模型的潜力，不仅在学术研究中，也在工程实践中。通过不断探索新方法、参与项目和保持热情，并将其应用于各种领域，从自然语言处理到计算机视觉和自动驾驶。通过不断学习、实践和探索，可以不断提升自己在深度学习领域的技能和洞察力，同时也能为社会和行业带来创新和改进。从小规模的项目和模型开始，逐渐迭代和扩展到更大的模型，逐步积累经验，最终能够处理大模型和复杂任务。分享您的研究成果和代码，以获得反馈和建立声誉。
2024-04-17 11:56:47
8103
原创 AI 入门，从零搭建完整 AI 开发环境，并写出第一个 AI 应用
在本文中，我们从零开始，一步步搭建了一个完整的AI开发环境，并创建了一个简单的AI应用。您学习了如何安装Python、Anaconda、TensorFlow，以及如何使用Jupyter Notebook进行开发。通过这个简单的手写数字识别应用，您不仅学习了AI的基本概念，还亲身体验了AI的应用。AI是一个广阔而充满机遇的领域，希望这个教程能够激发您继续深入学习和探索AI的兴趣。
2024-04-10 11:02:43
12204
1
原创 国内超大型智能算力中心建设白皮书 2024
智算中心建设通过领先的体系架构设计，以算力基建化为主体、以算法基建化为引领、以服务智件化为依托，以设施绿色化为支撑，从基建、硬件、软件、算法、服务等全环节开展关键技术落地与应用。一、体系架构（一）总体架构图8 智算中心总体架构智能算力中心建设白皮书，重点围绕基础、支撑、功能和目标四大部分，创新性地提出了智算中心总体架构。其中，基础部分是支撑智算中心建设与应用的先进人工智能理论和计算架构；支撑部分围绕智算中心算力生产、聚合、调度、释放的作业逻辑展开；功能部分提供算力生产供应、数据开放共享、智能生态建设和产业创
2024-04-08 15:07:31
12468
1
原创 【收藏必备】给AI装上搜索引擎外挂：实现实时天气查询功能教程
本文介绍如何通过Tavily搜索引擎扩展AI客服能力，实现实时信息查询功能。主要内容包括：分析大模型的信息局限性；提供三步实现方案（获取API密钥、编写调用代码、绑定工具）；展示AI自主判断使用搜索的能力。该技术突破使智能客服不仅能回答常识问题，还能提供天气、新闻等实时信息，标志着AI从被动响应到主动决策的重要转变。文末还提供了大模型学习资源包获取方式，包含学习路线、书籍、教程等内容。
2025-11-24 18:35:11
328
原创 从零构建生成式AI应用平台：6大核心组件架构设计与实现（建议收藏）
摘要 本文系统阐述了生成式AI应用平台的架构演进路径，从基础模型API出发，逐步引入RAG、系统护栏、模型路由等核心组件。重点分析了上下文增强(RAG)的实现方式，包括基于术语和向量的检索方法，以及处理结构化数据的文本转SQL流程。同时探讨了输入/输出护栏的设置原则，强调保护隐私数据和防范恶意提示的重要性。文章为构建安全、高效的生成式AI系统提供了模块化设计思路和关键考量因素。
2025-11-24 18:34:13
650
原创 RAG优化完全指南：从黑盒到精准检索，收藏必备的五大核心技术实战解析
摘要：本文系统剖析了RAG技术的核心环节与优化路径，重点讨论了文档分块、索引增强、编码等关键模块的实现细节。通过分析语义分块、HyDE增强等具体方法，揭示了提升召回率与精确率的平衡策略。文章强调需根据实际场景对各技术模块进行针对性调优，为开发者提供了从快速使用到深度优化的实践指南，帮助解决RAG应用中常见的召回不准、效果不稳定等问题。
2025-11-24 18:33:21
479
原创 【必收藏】AI Agent实战指南：从技术原理到落地解决方案，企业数字化转型的最后一公里
AI Agent作为新一代AI系统，具备目标驱动自主规划、上下文感知记忆和生态系统交互三大核心能力，从被动响应升级为主动执行。文章深入解析了AI Agent的技术原理、架构设计，并通过车险理赔案例展示实战应用。针对企业落地挑战，提出了数字化基础设施改造、模型中台建设、安全合规保障和组织变革等解决方案。AI Agent代表了AI从工具向同事的进化，将极大降低AI应用门槛，但成功落地70%取决于企业数字化基础，只有10%取决于技术本身。
2025-11-24 18:30:59
419
原创 【必收藏】2025大模型入门指南：小白&程序员的就业与保研突围策略
当AI大模型从技术概念走进千行百业的实际场景，这条科技前沿赛道正成为学子与从业者的关注焦点。一边是全球科技巨头砸下百亿级算力竞逐大模型研发，相关岗位招聘需求同比激增37%；另一边却是不少人遭遇"入门易、深耕难"的困境——要么因技术储备不足错失良机，要么因方向判断失误陷入迷茫。无论是计划保研深造筑牢技术根基，还是直接投身职场抢占先机，看清大模型领域的真实生态，都是做出正确选择的第一步。结合2025年大模型行业的最新发展态势，本文将从三大维度，为你拆解赛道密码，助你在技术浪潮中稳步前行。
2025-11-24 15:28:46
802
原创 【收藏必备】Transformer模型详解：程序员入门大模型的第一课
Transformer最初是为了解决序列转导或神经机器翻译的问题而开发的，这意味着它们旨在解决将输入序列转换为输出序列的任何任务。这就是为什么他们被称为“Transformer”。
2025-11-24 15:22:06
867
原创 【必藏】从零开始实战本地RAG知识库开发，附完整代码实现+示例演示
本文介绍了RAG（检索增强生成）技术的本地实现方法，通过知识库分片、向量化处理和向量数据库存储三个关键步骤构建知识库系统。文章以《狂人日记》为例，展示了如何将用户提问与检索到的相关知识块结合生成prompt，最终实现大模型的"开卷作答"。相比微调方法，RAG具有耦合度低、成本低的优势，通过更换知识库内容即可实现知识更新。文中提供了完整的代码实现，包括分片处理、向量化转换、向量数据库存储以及知识检索召回等核心环节，为开发者提供了实用的技术参考。
2025-11-22 20:10:33
781
原创 【收藏】大模型分类与应用指南：从技术融合到智能体实践
大模型分类面临技术融合、命名混乱、动态进化和评估标准缺失四大挑战，导致模型功能边界模糊。当前主要应用方向包括AIGC内容生成、RAG知识增强和智能体技术三大领域。建议用户从实际需求出发选择模型，通过实践探索功能边界：个人可借助大模型处理日常任务，企业可基于工作流平台构建专用智能体提升效率。随着AI技术快速发展，持续学习和实践是掌握大模型应用的关键，建议通过项目实战和多维度评估来理解模型能力，而非依赖理论分类。
2025-11-22 20:09:48
500
原创 【值得收藏】大模型微调全流程解析：7大步骤+LoRA技术原理解析
本文系统梳理了大模型微调的完整流程，涵盖七大关键步骤：目标确定与数据准备、数据预处理、模型加载与参数设置、超参数配置、训练验证、评估优化以及模型部署。特别解析了参数高效微调方法LoRA的数学原理，通过小维度向量运算优化模型输出。文章指出AI时代催生Prompt工程师、大模型算法工程师等新兴岗位，并附赠《2025最新大模型全套学习资源》，包含学习路线、视频教程、项目实战等资料，助力读者掌握大模型技术，把握职业发展机遇。
2025-11-22 20:08:17
688
原创 干货收藏！上下文工程：从提示词到动态系统的AI开发革命
摘要：本文系统阐述了AI应用开发从提示词工程到上下文工程的范式转变。作者指出，随着任务复杂度提升，单纯优化提示词已无法满足需求，必须采用上下文工程方法构建动态系统，在有限窗口内精准管理信息。文章详细解析了上下文工程的七大组件、面临的上下文腐蚀挑战，并提出写入、选择、压缩、隔离四大管理策略。通过案例展示了如何通过精心设计的上下文架构，显著提升AI Agent在复杂任务中的表现可靠性。
2025-11-22 20:07:23
373
原创 收藏备用！程序员&小白必看，大模型学习从会用到精通的进阶指南
能用大模型写文案、搭简单机器人，但遇到复杂业务场景就卡壳；调用API很熟练，却不知道如何优化模型响应速度和成本；面对专业领域问题，大模型输出的内容总显得肤浅。这是很多人在大模型学习入门后，都会遇到的“能力瓶颈”。2025年的职场竞争中，仅掌握基础应用已无法形成优势——真正稀缺的是能让大模型“精准适配业务、创造实际价值”的进阶能力。这篇手册将帮你突破入门困境，实现从“工具使用者”到“价值创造者”的跃迁。
2025-11-22 15:22:13
498
原创 必学收藏！Agentic RAG：检索增强生成与智能体融合的AI前沿技术解析
检索增强生成（RAG），简单来讲，就是将大型语言模型与检索系统融合在一起，让模型在生成回答时，不再仅仅依赖于自身训练所学到的参数，而是能够从外部数据中获取支持，从而使回答更加基于事实。传统的大型语言模型（LLMs）虽然功能强大，但常常会出现一种情况，那就是生成看似合理却与事实不符的回答，这种现象被称为“幻觉”。RAG 通过引入一个外部检索步骤，很好地解决了这个问题。它能够从海量的外部数据中检索并添加事实性或上下文相关的信息。
2025-11-22 15:11:55
961
原创 【值得收藏】智能体记忆管理设计模式全解析 | 《智能体设计模式》中文翻译
本文详细解析《智能体设计模式》第八章"记忆管理模式"，阐述智能体记忆管理的双层架构（短期上下文记忆+长期持久记忆）。介绍Google ADK框架中的Session、State和MemoryService组件，以及LangChain/LangGraph的记忆管理实现方式。探讨记忆管理应用场景、最佳实践和三种长期记忆类型（语义、情景、程序性记忆），并提供具体代码示例，帮助开发者构建具备记忆能力的智能体系统。
2025-11-21 17:21:04
707
原创 收藏！AI时代新风口：20个高薪AI Agent赛道，助你抓住下一个十年机遇
《AI Agent在中国的20个高潜赛道：普通人如何抓住AI机遇》 文章核心观点： 中国比美国更适合发展AI Agent，主要优势在于： 企业重复性工作更多 老板更追求"省人"效应 业务链条更复杂 重点推荐20个高潜AI Agent赛道，分为5大类： A类（企业刚需）：招聘、客服、销售、法务、知识库 B类（中小企业）：财务、运营、供应链、电商、知识付费 C类（技术替代）：编程、测试、数据分析、运维 D类（高价值）：医疗、风控、教育、政务 E类（个人市场）：个人助理、创作者工具 给普通人的
2025-11-21 17:19:22
467
原创 颠覆认知！港大LightReasoner：小模型也能教大模型推理，效率提升90%，收藏学习
港大LightReasoner：小模型指导大模型的关键推理训练法 这项研究突破了"大模型指导小模型"的传统范式，提出让小模型通过对比采样和自我蒸馏两个阶段，精准指导大模型强化关键推理步骤。该方法创新性地使用KL散度识别模型间决策差异点，仅在这些关键步骤提供监督信号。实验显示，在多个数学推理基准上性能显著提升（如GSM8K准确率+28.1%），同时训练时间减少90%，训练token消耗降低99%。LightReasoner不仅实现了高效推理能力提升，更标志着AI训练从"规模竞赛&
2025-11-21 17:18:13
856
原创 【必藏】LangChain多智能体系统实战：HITL机制实现可控可审的AI助手
文章摘要： 本文介绍了如何通过引入HITL人工审核机制和上下文注入技术，提升LangChain多智能体系统的可控性与可靠性。系统由Supervisor智能体协调多个子智能体（如日历、邮件智能体），实现对关键操作的人工干预审核。通过@tool装饰器定义工具函数，建立状态记忆机制，在保持自动处理能力的同时，满足企业对安全性、可审计性和响应质量的要求。文章包含完整的代码实现示例，展示了如何创建专业子智能体并将其封装为工具供Supervisor调用，形成完整的智能助理系统架构。
2025-11-21 17:17:12
714
原创 从后端到大模型工程师：完整转型路线与核心技能掌握（建议永久收藏）
本文针对后端工程师转行AI大模型工程化开发，提出系统学习路线：先掌握Python语言和深度学习框架，再熟悉transformer/bert架构及RAG、prompt等AI技术，最后学习模型训练、微调、压缩和部署流程。通过dify、langchain等开发平台，结合分布式系统架构知识，最终开发出高可用的AI大模型应用。随着deepseek的爆火，AI大模型工程化开发需求旺盛。很多后端工程师对于如何转行到AI大模型工程化工程师有很多迷茫，猫叔趁着周末也顺便梳理了一条学习路线和大家分享一下。
2025-11-21 14:53:25
719
原创 【必看收藏】AI Agent协作协议详解：MCP、A2A与ANP架构解析，程序员入门大模型必学指南
本文解析了AI智能体的三大核心组件（语言模型、工具、编排层）及三种协作协议。MCP协议实现智能体与工具的标准化连接，A2A支持智能体间点对点通信，ANP构建大规模智能体网络的服务发现机制。这些互补协议为不同规模场景下的AI Agent协作提供了基础框架，是构建智能体系统的关键技术。本文将进一步介绍让智能体之间进行协作的协议。
2025-11-21 14:52:07
885
原创 【深度收藏】AI浪潮下程序员的5条转型之路，技术+行业双轮驱动
【AI时代程序员转型指南】面对AI技术革新，程序员可通过四大方向实现职业升级：1）深耕AI模型开发与优化，掌握大模型微调、多模态应用等前沿技术；2）成为行业解决方案专家，结合医疗/金融等领域痛点开发AI工具；3）转型技术管理或产品化，主导AI系统架构设计；4）把握AI创业窗口期，开发垂直领域应用。建议优先掌握LangChain等实用框架，将Java/Python等传统技能与AI结合，通过行业报告（640套大模型资料）和实战项目快速提升。需建立"AI+行业"复合能力，年薪可达60-150万
2025-11-20 19:17:49
599
原创 架构师的AI转型必修课：30%效率提升背后的角色重塑与能力重构(深度收藏)
文章探讨AI技术对架构师角色的重塑。多位专家指出，AI工具可提升30%-50%开发效率，使架构师从代码细节转向战略层面。新角色如AI架构师、模型工程架构师涌现，需统筹算力、模型与数据流。架构师价值正从个人经验转向"能力杠杆化"，通过AI实现技术调研、方案模拟等。未来架构师将更多扮演"语义管理者"角色，连接人类知识与智能系统。专家建议积极拥抱AI工具，将其从"工具"转变为"伙伴"，在战略判断、组织协调等方面保持不可替代性。AI不会
2025-11-20 19:17:09
723
原创 【进阶收藏】大模型学习成长路径：从新手到变现的实战指南
大模型不是“少数人的专利”，而是“每个人都能掌握的生产力工具”。小白不用怕没基础，从解决一个小问题开始；程序员不用怕转型难，把现有技术和大模型结合就是优势；创业者不用怕没资源，低代码平台和开源工具能帮你快速启动项目。学习大模型最宝贵的品质不是“聪明”，而是“行动”。与其纠结“学不学得会”，不如现在就打开通义千问，让它帮你生成一份“个人专属学习计划”；与其担心“技术过时”，不如先完成一个小项目，在实战中积累经验。
2025-11-20 15:31:30
835
原创 从基础到智能体：RAG技术全解析 | 程序员必学大模型增强技术，建议收藏
本文系统介绍了检索增强生成(RAG)技术的演进历程，从基础的关键词检索RAG，到进阶的语义搜索RAG，再到模块化、图结构及智能体驱动的RAG。重点阐述了智能体RAG如何通过引入自主决策能力，使大语言模型从静态知识检索转向动态推理，标志着AI范式的重要转变，为解决LLM实时信息获取和可靠性问题提供了新路径。
2025-11-20 15:30:29
591
原创 收藏！AI智能体30个核心术语详解，大模型入门必备指南
理解这些核心术语是设计和实现强大AI智能体系统的第一步。希望这份详细的总结能帮助您更深入地理解智能体AI的世界。
2025-11-20 15:29:11
457
原创 【必收藏】AI智能体全解析：从概念到实践，一文带你秒懂智能体核心原理
AI智能体是具有自主性的AI系统，能够理解目标、规划任务并调用工具完成工作。与传统聊天机器人不同，智能体可以自主拆解复杂任务，人类只需设定目标和监督结果。智能体通常包含三大核心组件：大脑（大语言模型负责规划）、感知与记忆（接收输入并存储信息）、行动与工具（执行具体操作）。目前市场上有两类智能体应用：智能体创建平台（如豆包、扣子）和真正自主的智能体（如Manus）。理解智能体概念有助于根据实际需求创建专属智能体，提升工作效率。
2025-11-19 22:15:00
895
原创 【必收藏】AI Agent优化完全指南：从Prompt到评估的五大核心技术维度，助你打造高效智能体
本文系统阐述了AI Agent优化的五大核心维度：在Prompt工程方面，强调结构化提示、启发式规则和示例引导；上下文工程聚焦KV缓存管理、长周期任务处理及外部化记忆策略；工具设计注重高效选择与命名规范；控制循环采用简化架构与小模型结合；评估与适应强调错误恢复与多样性增强。这些方法共同构建了更高效稳定的智能体系统，为处理复杂任务提供了系统性优化框架。
2025-11-19 22:00:00
1009
原创 【必藏】DeepAgents深度解析：LangChain最新Agent框架实战指南，3大核心机制全掌握
DeepAgents是LangChain推出的新一代Agent框架，专注于处理复杂多步骤任务。它在LangChain和LangGraph基础上构建，提供三大核心能力：1)智能任务规划机制，通过write_todos工具实现步骤分解与动态调整；2)灵活的虚拟文件系统，支持State/本地文件/LangGraph Store等多种存储后端；3)子智能体协作机制。该框架采用中间件架构，开发者只需自定义工具和任务说明即可快速构建"深度Agent"，大幅降低了复杂Agent的开发门槛。通过任务规划
2025-11-19 21:45:00
1537
原创 【珍藏】LangGraph多智能体开发指南：单智能体与多智能体架构对比分析
本文探讨AI智能体系统的架构设计，比较了单智能体和多智能体的优缺点。作者通过构建科技趋势追踪助手发现：单智能体由单一模型完成所有任务，效率高但易出错；多智能体通过分工协作（如数据采集、筛选、总结等子任务），产出质量更高但耗时增加。建议采用混合方案（单智能体预判+多智能体细化），并强调好的AI系统应结合人脑逻辑与机器执行。文章还分享了使用LangGraph构建多智能体系统的实践经验，展现了Agentic AI让语言变成指令、思维变成系统的技术魅力。
2025-11-19 17:37:07
810
原创 ReAct+LangGraph实战指南：从零构建智能决策系统，附完整源码与收藏案例(必看)
本文系统解析了ReAct范式及其在LangGraph框架中的实现原理。通过"推理-行动-观察-调整"循环机制，该范式有效解决了传统AI在复杂任务中静态推理与固定执行的局限性。文章详细阐述了LangGraph的状态驱动架构和条件路由机制，并配以智能解决方案系统的实际案例，展示了ReAct如何实现动态决策与工具协作。最后提供了ReAct Agent的编码实现方法，帮助开发者构建具备主动信息获取和透明推理能力的AI系统，显著提升复杂场景下的任务处理效能。
2025-11-19 17:26:05
822
原创 大模型学习不止“调用API”：构建核心竞争力，从新手到不可替代
会用ChatGPT写文案，算不算懂大模型？”“学了LangChain，投简历还是被拒，问题出在哪？”在大模型学习的热潮中，越来越多的人陷入“伪入门”困境——看似掌握了基础工具，却在求职、项目落地时屡屡碰壁。真相是：大模型学习的门槛从来不是“会不会用工具”，而是“能不能用大模型创造独特价值”。本文将跳出“工具使用”的浅层误区，带你从“认知重构→体系搭建→优势落地”三个维度，构建真正的大模型核心竞争力，让你在AI浪潮中从“随波逐流”变为“不可替代”。
2025-11-19 14:06:01
998
原创 【必学收藏】LangChain智能体(Agent)全攻略：从ReACT到工具调用的实战指南
ReACT。在 LangChain 中，要想创建基于 ReACT 架构的智能体，其实也非常简单，导入 AgentExecutor、create_react_agent，在实例化的时候，传递对应的 工具 + prompt 即可，其中 ReACT 架构的智能体 prompt 是有要求的。query: str = Field(description="执行谷歌搜索的查询语句")# 1.定义工具与工具列表"一个低成本的谷歌搜索API。"当你需要回答有关时事的问题时，可以调用该工具。
2025-11-19 14:04:20
789
原创 【必藏】FlashAttention如何解决大模型训练“崩了“的致命问题：显存占用降低90%，训练速度提升50%
FlashAttention通过分块计算、算子融合和重计算三大优化，将Attention显存占用从O(N²)降至O(N)。仅需10行代码替换原生Attention层，实测训练速度提升50%，显存消耗降低90%。从1.0到4.0版本的持续演进，使其成为GPT-4等大模型训练的核心技术，大幅降低了长文本处理的硬件门槛。该技术通过算法创新充分挖掘GPU硬件潜力，让大模型训练效率实现质的飞跃。
2025-11-18 19:01:47
425
原创 【珍藏】多智能体React模式深度解析：从挑战到解决方案的完整实践
本文介绍了生产环境中多智能体React模式面临的五大挑战及解决方案。针对工具调用延迟，提出流式XML替代FunctionCall；通过上下文压缩策略优化性能；引入"万能agent"处理缺失中间态；设计总结工具改善最终输出；开发MCP服务加强过程监督。这些改进显著提升了系统性能和用户体验，为多智能体协同系统的设计与实现提供了实践参考。
2025-11-18 19:00:57
293
原创 AI代理必备：上下文工程vs提示工程，构建可靠系统的四大策略，必读干货
摘要：上下文工程是构建AI代理的核心技术，通过系统性、动态性地提供恰当信息和工具来优化任务执行。针对长上下文带来的污染、干扰等问题，可采用写入、选择、压缩和隔离四种策略。多代理架构能提升并行能力但会增加成本，需谨慎使用。合理运用上下文工程策略将成为AI代理迈向生产级应用的关键。
2025-11-18 19:00:10
301
原创 投资顾问智能化转型必备！基于MCP的征询与采样机制实战指南
摘要： 本文介绍了一个基于MCP协议的智能投资顾问系统，通过结合LLM大模型的推理能力和MCP协议的外部连接与交互功能，解决了传统投资咨询模式效率低、成本高等痛点。系统采用征询机制收集用户投资信息，并通过采样机制调用LLM生成个性化投资建议，提供了从服务端工具定义到客户端交互的完整实现方案。该智能投顾系统能够24小时提供标准化服务，显著提升了金融投资咨询的效率和用户体验。
2025-11-18 18:58:54
1049
原创 【收藏必看】从零实现RAG系统：完全掌控你的AI知识库
从零实现RAG系统确实比用现成框架麻烦一些，但带来的好处很明显。你对每个环节都有完全控制权，可以根据具体需求精确调优。出了问题能快速定位，不用在框架的抽象层里瞎猜。成本也更透明，每个API调用、每个token都在你掌控之中。更重要的是你真正理解了RAG的工作原理，而不是只会调用几个封装好的函数。这种理解在遇到复杂场景时价值巨大。虽然初期投入的时间多一些，但长期来看绝对值得。特别是对于有特定需求的业务场景，自实现的灵活性是框架无法比拟的。
2025-11-18 14:03:43
669
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人