手把手教你 DeepSeek + AnythingLLM + Ollama 搭建本地知识库【图文详细教程】

原创 于 2025-10-28 11:18:15 发布 · 947 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#github #embedding #人工智能 #1024程序员节 #LLM #Agent #程序员

安装 Ollama

Ollama 的部署和使用之前已经介绍过了，就不再重复。还有不熟悉的可以先去看下文章：[手把手教你本地部署 DeepSeek 大模型，实现AI自由（注意：Chatbox 可不用安装）。

安装 AnythingLLM

AnythingLLM 是一款开源免费，开箱即用的 AI 应用，主要特点包括多模态支持、文档处理（支持多种格式，如 PDF、TXT、DOCX 等）、多用户支持、AI 代理集成以及强大的 API 支持。它适用于个人和企业，能够帮助用户在本地或云端搭建个性化的聊天机器人系统，同时保证数据隐私和安全。

1、先去AnythingLLM官网，下载适合自己的版本。

官网：https://anythingllm.com/desktop

2、下载完，双击下一步安装即可。

安装完成后，首次启动时会提示配置偏好设置。用户可以根据需求进行设置（我都是默认的），后续也可以随时修改。

3、接下来就是新建工作区。

这里取名为“专属知识库”，然后点击保存。

配置 AnythingLLM

接下来就是重头戏了，千万不要分心！

1、配置LLM 首选项（使用DeepSeek 的关键）

选择已安装的 deepsek r1模型，地址默认就行。这一步是使用DeepSeek R1大模型的关键。

2、配置向量数据库

向量数据库不用改，使用默认配置的LanceDB即可。它是100%保存在本地的，无需担心会联网上传敏感数据，数据保证安全。不过数据存放在C盘（好像也没地方可以修改）。

3、配置Embedder首选项

这里是配置嵌入模型，使用默认自带的AnythingLLM Embedder 模型就行。也可以使用Ollama安装好的模型（如果本地有安装的话）。

到这里，相关配置就完成了，点击左下角返回工作区。

构建专属知识库

当没有给本地知识库上传个人文档时，我们向它提出一些基于个人文档或私有项目细节等方面的问题，会发现它无法给出正确并针对性的回答，因为它还缺乏相关的信息输入。

下面我们就来测试下。

因为我们还没有上传相关的文档，所以它回答并不理想。接下来给本地知识库投喂我们的个人文档。

点击工作空间的上传按钮。

选中文档并移动到工作区

点击右下角的“Save and Embed”

如弹出成功提示，就说明个人资料已经上传到个人知识库了！

提示：保存成功后，要新开一个Thread哦，不然上传的资料可能没有更新~

我们继续提问测试。

可以看到这次的回答就正确了。

至此，个人专属知识库就已经搭建成功了！

如果觉得内容不错，欢迎点赞、分享、在看 三连，想第一时间收到内容推送，可以关注我，加个星标⭐哦~

想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2025 年 AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！

👇👇扫码免费领取全部内容👇👇

​

一、学习必备：100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT，帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例？大模型电子书？这份资料帮你站在 “行业高度” 学 AI：

1. 100+本大模型方向电子书

在这里插入图片描述

2. 26 份行业研究报告：覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容，涵盖：

  • 职业趋势：《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》；
  • 商业落地：《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》；
  • 领域细分：《AGI 在金融领域的应用报告》《AI GC 实践案例集》；
  • 行业监测：《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT：听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会，包含百度、腾讯、字节等企业的一线实践：

在这里插入图片描述

  • 安全方向：《端侧大模型的安全建设》《大模型驱动安全升级（腾讯代码安全实践）》；
  • 产品与创新：《大模型产品如何创新与创收》《AI 时代的新范式：构建 AI 产品》；
  • 多模态与 Agent：《Step-Video 开源模型（视频生成进展）》《Agentic RAG 的现在与未来》；
  • 工程落地：《从原型到生产：AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看：大厂 AI 岗面试 “弹药库”，300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗？这份面试资料帮你提前 “押题”，拒绝临场慌！

1. 107 道大厂面经：覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景，包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题，每道题都附带思路解析：

2. 102 道 AI 大模型真题：直击大模型核心考点

针对大模型专属考题，从概念到实践全面覆盖，帮你理清底层逻辑：

3. 97 道 LLMs 真题：聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案，比如让很多人头疼的 “复读机问题”：


三、路线必明： AI 大模型学习路线图，1 张图理清核心内容

刚接触 AI 大模型，不知道该从哪学起？这份「AI大模型 学习路线图」直接帮你划重点，不用再盲目摸索！

在这里插入图片描述

路线图涵盖 5 大核心板块，从基础到进阶层层递进：一步步带你从入门到进阶，从理论到实战。

img

L1阶段:启航篇丨极速破界AI新时代

L1阶段：了解大模型的基础知识，以及大模型在各个行业的应用和分析，学习理解大模型的核心原理、关键技术以及大模型应用场景。

img

L2阶段：攻坚篇丨RAG开发实战工坊

L2阶段：AI大模型RAG应用开发工程，主要学习RAG检索增强生成：包括Naive RAG、Advanced-RAG以及RAG性能评估，还有GraphRAG在内的多个RAG热门项目的分析。

img

L3阶段：跃迁篇丨Agent智能体架构设计

L3阶段：大模型Agent应用架构进阶实现，主要学习LangChain、 LIamaIndex框架，也会学习到AutoGPT、 MetaGPT等多Agent系统，打造Agent智能体。

img

L4阶段：精进篇丨模型微调与私有化部署

L4阶段：大模型的微调和私有化部署，更加深入的探讨Transformer架构，学习大模型的微调技术，利用DeepSpeed、Lamam Factory等工具快速进行模型微调，并通过Ollama、vLLM等推理部署框架，实现模型的快速部署。

img

L5阶段：专题集丨特训篇 【录播课】

img
四、资料领取：全套内容免费抱走，学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：

👇👇扫码免费领取全部内容👇👇

​

2025 年想抓住 AI 大模型的风口？别犹豫，这份免费资料就是你的 “起跑线”！

Llama-Turbo
关注
【三步！手把手教你快速搭建本地deepseek应用】deepseek-r1-1.5b+ollama+anythingllm
03-04
【三步！手把手教你快速搭建本地deepseek应用】deepseek-r1-1.5b+ollama+anythingllm
【DeepSeek应用实践】手把手教程：用 AnythingLLM + Ollama + DeepSeek-R1 搭建本地企业知识库
寻道AI，探索AI无限可能！
03-28 2083
在众多的技术方案中，我们选择了 AnythingLLM、Ollama 和 DeepSeek-R1 这一组合来搭建本地知识库。Ollama 作为一个轻量级的本地化大语言模型部署工具，支持多种模型，易于安装和使用，能够快速在本地运行强大的语言模型。DeepSeek-R1 是一个专为知识库问答设计的检索增强生成（RAG）模型，它结合了检索和生成的优势，能够快速从知识库中检索相关信息并生成精准答案。而 AnythingLLM 则是一个用户友好的界面工具，可以方便地连接 Ollama 和 DeepSeek-R1
只需三步，本地打造自己的AI个人专属知识库
AAI666666的博客
04-08 4万+
只需三步，本地打造自己的AI个人专属知识库
RAG 知识库搭建：Ollama+AnythingLLM 搭建本地知识库，大模型入门到精通，收藏这篇就足够了！（附教程）
最新发布
2301_81888214的博客
09-19 1061
RAG的核心机制融合了信息检索系统的精确性和语言模型的强大生成能力，为基于自然语言的任务提供了更为灵活和精准的解决方案。
Dify AI智能体实战：MCP+RAG+DeepSeek+通义千问
08-12
一、课程优势本课程有陈敬雷老师的清华大学出版社配套新书教材《GPT多模态大模型与AI Agent智能体》（跟我一起学人工智能）。新书配合此实战课程结合学习，一静一动，互补高效学习！本课程由互联网一线知名大牛陈敬雷老师全程亲自授课，技术前沿热门，是真正的互联网工业级实战项目。二、课程简介        GPT-5多模态大模型、MCP、AI Agent智能体、DeepSeek、Dify、扣子Coze、RAG、Sora……这些不断刷屏的前沿技术正持续引爆AI领域，掀起一轮又一轮创新浪潮。你是否也渴望穿透技术表象，直抵核心本质？是否想系统梳理发展脉络，不再被碎片化信息裹挟？          在 Dify AI 智能体平台实操浪潮里，MCP、RAG 知识库集成、DeepSeek 模型调用、通义千问交互设计等 AI 应用操作，正重塑业务落地场景。想穿透平台技术表象，直抵 Dify 智能体开发、多模型融合核心？想摆脱碎片化摸索，系统掌握从 0 到 1 落地 AI 应用的实操路径？这门 Dify AI 智能体平台实战课专为你打造！从基础组件逻辑到多模型协同部署，从 RAG 与大模型结合到行业场景落地，深度拆解 Dify 平台实操体系，教你用 Dify 融合多技术把 AI 创意变成真实生产力，在智能应用浪潮里精准卡位、高效实操！课程核心亮点：从根源到前沿，锻造硬核 AI 技能课程模块详解：体系化学习，收获明确第一章：AI Agent智能体、Dify平台、工作流开发等操作实践1.Dify平台基础环境搭建-Docker和WSL安装操作实践本课程聚焦Dify/Coze平台基础环境搭建，深入讲解 Docker 与 WSL 安装实操。从 Windows 系统下以管理员身份运行命令行安装 WSL，开启 Hyper-V 功能，到官网下载安装 Docker Desktop，并巧妙配置镜像源提升下载速度，每一步都有详细演示与指导。同时，课程会给出下载 Dify 并启动的具体步骤，帮助你快速搭建起 Dify 运行所需的基础环境，为后续深入探索 Dify 平台强大功能筑牢根基，无论是编程新手还是 AI 爱好者，都能轻松上手 。2.最新Dify源码平台安装实操和核心架构全流程拆解 本课程围绕最新 Dify 源码平台展开，为你呈上全面的安装实操与核心架构拆解。从前期环境准备，像不同系统下 Docker、Docker Compose 及 Git 的安装配置，到一步步克隆 Dify 代码，启动中间件服务，再到细致地配置并运行后端 API 服务与前端 Web 服务，每一个安装环节都有详细步骤演示与深度讲解，助你顺利搭建 Dify 平台。在核心架构拆解部分，课程深入剖析 Dify 的六大功能层。从负责任务调度与逻辑处理的核心业务层，到提供交互界面的交互与展示层；从承担数据存储与缓存功能的数据存储与缓存层，到赋予平台 AI 能力的 AI 能力层；还有保障网络安全与请求转发的网络与安全层，以及用于隔离测试的隔离与测试层，帮你透彻理解各层容器的作用及协同工作机制。无论你是想基于 Dify 开发 AI 应用的开发者，还是对其架构原理感兴趣的技术爱好者，本课程都能让你收获满满，为后续深入应用 Dify 平台奠定坚实基础 。3.Dify集成DeepSeek和阿里通义千问等大模型底座插件安装想拓展 Dify 平台的大模型能力吗？本课程聚焦 Dify 集成 DeepSeek、阿里通义千问等大模型底座插件的安装实操。从前期准备，如获取对应模型 API Key、检查 Dify 市场插件可用性，到安装环节，细致演示在 Dify 市场中精准定位并下载 DeepSeek、通义千问插件（规避版本报错问题），再到关键的配置阶段，指导你在 Dify 系统内正确填入 API Key，开启所需模型开关。同时，深入剖析不同插件与 Dify 现有架构的融合逻辑，助你理解安装后如何让新模型在 Dify 平台上稳定运行、高效协作，轻松为 Dify 增添多元大模型支持，拓展应用开发边界 。4.Dify平台 - 配置Agent策略及MCP插件在Dify平台强大的生态体系中，合理配置Agent策略与安装MCP插件，能极大拓展其功能边界，为AI应用开发带来更多可能。本课程将深入聚焦这两大关键板块，助力开发者全面掌握相关实操技能。课程开篇，会为你详细阐释Agent策略的核心概念与在Dify平台中的关键作用。通过直观的演示，你将学习如何在Dify的Chatflow/Workflow编辑器内，精准拖拽Agent节点至画布，并深入理解Function Calling和ReAct等内置策略的差异，依据不同业务场景做出选择。例如，在处理明确的任务需求时，Function Calling可快速调用外部函数，实现高效响应；而ReAct策略则适用于需要多步推理、交替思考与行动的复杂场景。同时，课程会细致讲解如何在节点配置面板中，针对所选策略，合理设置驱动大语言模型、添加并配置可调用工具、填写API密钥授权、定义任务目标与上下文，以及设定执行步数等关键参数，确保Agent能精准执行任务。5.Dify平台整体功能操作实践  全面解锁Dify平台功能！从平台基础操作界面认知，到项目创建、智能体配置、工作流编排，再到功能联调与部署，完整演示Dify平台各模块实操流程。帮你快速上手这款工具，利用平台能力高效搭建AI应用，降低开发门槛。  6.Dify平台知识库管理模块操作实践  专注Dify平台知识库管理！详解知识库创建、文档上传、知识分类、检索优化等操作。教你如何构建高质量知识库，让AI智能体精准调用知识，解决业务问答、内容推荐等场景需求，掌握知识驱动AI应用的核心技能。  7.智能客服知识问答助手AI智能体开发操作实践  围绕智能客服场景，专攻知识问答助手AI智能体开发。从需求梳理、知识体系构建，到智能体对话逻辑设计、多轮问答优化，结合实际客服案例实操。教你打造能精准答疑、高效服务的智能客服助手，提升业务接待效率与用户体验。  8.大模型预测AI智能体应用落地工作流开发操作实践  聚焦大模型预测场景，拆解AI智能体应用落地工作流开发全流程。从需求分析到功能实现，手把手教你借助大模型能力，搭建高效预测工作流，掌握智能体在实际业务中落地的关键操作，让模型预测从理论走向可执行的应用方案。  9.从0到1实操：AI智能体工作流开发操作实践  专为0基础或想系统搭建AI智能体工作流的学习者设计。从基础概念破冰，逐步讲解工作流设计逻辑、开发步骤、调试优化，全程实操演示，带你走完“从无到有”开发AI智能体工作流的完整路径，快速具备独立开发简单工作流的能力。  10.预测类AI算法模型训练和预测API代码开发实践  深入预测类AI算法核心，涵盖模型训练全流程（数据预处理、算法选型、训练调优 ），并重点讲解预测API代码开发。通过真实案例实操，教你用代码实现算法模型落地，让训练好的模型能通过API对外提供预测服务，打通算法到应用的关键环节。  11.多模态大模型AI智能体工作流开发实践  拥抱多模态趋势，聚焦多模态大模型驱动的AI智能体工作流开发。涵盖图像、文本、语音等多模态数据处理，讲解工作流中多模态任务串联、交互逻辑设计，通过案例实操，让你掌握开发能处理复杂多模态场景的智能体工作流技能 。第二章： MCP(大模型上下文协议)代码开发实践12.MCP Server开发实践 - 服务器发送事件（SSE）代码开发实践服务器发送事件（SSE）是MCP（Model Context Protocol）协议实现实时数据交互的核心技术，也是打通Dify平台与外部数据源的关键桥梁。本课程聚焦MCP Server中SSE的开发实践，从基础原理到代码落地，带开发者掌握实时数据推送的核心技能。课程先解析SSE的工作机制：如何通过HTTP长连接实现服务器向客户端（如Dify的Agent）单向持续推送数据，对比WebSocket理解其轻量性与适用场景（如实时日志、增量数据返回）。随后，结合MCP协议规范，详解SSE在MCP Server中的角色——如何将外部数据源（数据库查询结果、API响应、实时监控数据）以事件流形式实时反馈给Dify，支撑Agent的动态决策。13.MCP Server开发实践 - 可流式传输的HTTP（StreamableHttp）代码开发实践可流式传输的HTTP（StreamableHttp）是MCP协议中实现高效数据交互的核心技术，为Dify平台与外部服务的动态通信提供了灵活支撑。本课程聚焦StreamableHttp在MCP Server中的开发实践，帮助开发者掌握流式数据传输的实现逻辑与落地技能。14.MCP Client代码开发实践和Cherry Studio、Dify平台集成MCP 课程简介MCP（Model Context Protocol）客户端是连接AI应用平台与MCP服务器的关键接口，本课程聚焦MCP Client的开发实践及其在Cherry Studio、Dify两大平台的集成落地，帮助开发者打通“客户端-服务器-应用平台”的全链路数据交互。第三章：DeepSeek大模型企业应用落地实践15. Ollama 框架详解：本地部署 DeepSeek 大模型实战指南核心内容：深度剖析 Ollama 框架，从安装到配置，一步步教你在本地部署 DeepSeek 大模型，涵盖模型下载、运行及管理等实操环节。学习受益：掌握 Ollama 框架运用，能独立在本地部署 DeepSeek 大模型，降低模型使用成本，保障数据隐私，提升自然语言处理效率。16. Ollama 安装与 DeepSeek 大模型部署全流程操作实践核心内容：全面覆盖 Ollama 在不同系统的安装方法，以及 DeepSeek 大模型从选型到部署的完整流程，包含硬件适配、版本选择及部署后测试。学习受益：通过实践掌握 Ollama 与 DeepSeek 大模型部署技能，可依自身需求灵活搭建模型环境，为 AI 相关工作、学习筑牢基础。17. Open WebUI 全方位解析：自托管 AI 平台功能与应用核心内容：详细解读 Open WebUI 自托管 AI 平台，介绍其安装方式、多模型兼容特性、权限管理及丰富的功能模块，如 RAG 集成等。学习受益：学会运用 Open WebUI 搭建个性化 AI 平台，利用其丰富功能提升大模型交互体验，满足企业级或个人多样化 AI 应用需求 。18. 基于Unsloth的DeepSeek训练微调核心工具核心内容：基于 Unsloth 对 DeepSeek 模型，优化训练效率与内存占用，适配多场景部署，支持灵活导出与定制。    学员收益：掌握高效微调 DeepSeek 的方法，降低硬件门槛，提升模型落地能力，助力科研与企业应用。19. DeepSeek-R1训练微调代码实践核心内容：DeepSeek-R1高效训练微调，结合医学 COT思维链 数据集，实操 LoRA、量化压缩，实现专业领域推理大模型问答全流程。学员收益：快速掌握数据处理到部署全流程，攻克大模型微调痛点，获得医学垂类模型训练实战能力。然后举一反三，相同代码可以应用到其他行业。20. 吃透 DeepSeek-R1：模型文件全解析与实战指南    核心内容：解析架构与训练机制，详解 163 个分片文件及配置、分词器，含多领域实战案例。    学员收益：掌握模型原理与优化，提升实战能力，拓宽职业路，培养逻辑与创新思维。21. 本地运行DeepSeek-R1满血版大模型    核心内容：涵盖硬件配置（多高端 GPU 等）、环境部署、模型下载与调优，及推理测试全流程。    学员收益：掌握本地部署技能，实现隐私数据处理，降低依赖，提升大模型实战与优化能力。！ 为什么选择这门课程？四大核心优势权威性与实用性兼具：作者陈敬雷深耕 AI 领域多年，课程内容基于《GPT 多模态大模型与 AI Agent 智能体》一书，结合京东图书配套视频，理论与实践深度结合。理论与实战紧密融合：每个知识点都配套代码实践，从原理理解到动手操作无缝衔接，避免 “纸上谈兵”，学完就能上手应用。内容全面且聚焦核心：覆盖大模型技术全链条关键内容，不冗余、不零散，直击技术核心，让学习更高效。紧跟 AI 应用落地浪潮：聚焦 Dify 平台核心操作，深耕 MCP 框架搭建、RAG 知识库集成、DeepSeek 与通义千问模型调用、多模型协同部署等实操热点，拆解平台最新功能与技术融合逻辑，确保所学直接对接 Dify 实操场景，贴合用多技术落地 AI 应用的行业需求。 三、老师介绍陈敬雷  充电了么创始人，CEO兼CTO陈敬雷，北京充电了么科技有限公司创始人，CEO兼CTO，十几年互联网从业经验，曾就职于用友网络、中软集团、凡客诚品、唯品会、猎聘、人民日报(灵思云途)、北京万朝科技，曾任架构师、首席技术官、首席科学家等职务，对业务领域B端、C端、电商、职场社交招聘、内容文娱、营销行业都有着丰富的经验，在技术领域，尤其在大数据和人工智能方向有丰富的算法工程落地实战经验，其中在猎聘任职期间主导的推荐算法系统项目获得公司优秀项目奖，推荐效果得到5倍的提升。此外，陈敬雷著有清华大学出版社四本人工智能书籍，分别是《分布式机器学习实战》《自然语言处理原理与实战》《GPT多模态大模型与AI Agent智能体》《DeepSeek大模型与具身智能实践》，颇受好评。同时陈敬雷还是知名大数据人工智能讲师，研发了上百门课程，总计有30万学员。四、《GPT多模态大模型与AI Agent智能体》书籍配套视频课程介绍：陈敬雷老师的京东自营书名标题： GPT多模态大模型与AI Agent智能体（跟我一起学人工智能）《GPT多模态大模型与AI Agent智能体》（跟我一起学人工智能）是一本2025年清华大学出版社出版的图书，作者是陈敬雷，本书深入探讨了GPT多模态大模型与AI Agent智能体的技术原理及其在企业中的应用落地。全书共8章，从大模型技术原理切入，逐步深入大模型训练及微调，还介绍了众多国内外主流大模型。LangChain技术、RAG检索增强生成、多模态大模型等均有深入讲解。对AI Agent智能体，从定义、原理到主流框架也都进行了深入讲解。在企业应用落地方面，本书提供了丰富的案例分析，如基于大模型的对话式推荐系统、多模态搜索、NL2SQL数据即席查询、智能客服对话机器人、多模态数字人，以及多模态具身智能等。这些案例不仅展示了大模型技术的实际应用，也为读者提供了宝贵的实践经验。本书适合对大模型、多模态技术及AI Agent感兴趣的读者阅读，也特别适合作为高等院校本科生和研究生的教材或参考书。书中内容丰富、系统，既有理论知识的深入讲解，也有大量的实践案例和代码示例，能够帮助学生在掌握理论知识的同时，培养实际操作能力和解决问题的能力。通过阅读本书，读者将能够更好地理解大模型技术的前沿发展，并将其应用于实际工作中，推动人工智能技术的进步和创新。五、配套书籍目录：第1章 大模型技术原理1．1 大模型技术的起源、思想1．2 基于Transformer的预训练语言模型1．2．1 编码预训练语言模型1．2．2 解码预训练语言模型1．2．3 基于编解码架构的预训练语言模型1．3 提示学习与指令微调1．3．1 提示学习1．3．2 指令微调1．4 人类反馈强化学习1．4．1 强化学习1．4．2 PPO算法1．4．3 大模型人类反馈强化学习对齐1．5 GPT智能涌现原理与AGI通用人工智能1．5．1 什么是智能涌现1．5．2 思维链1．5．3 上下文学习能力1．5．4 指令理解1．5．5 通用人工智能第2章 大模型训练及微调2．1 大模型训练概述2．2 分布式训练的并行策略2．2．1 数据并行2．2．2 模型并行2．2．3 混合并行2．2．4 并行计算框架2．3 预训练模型的压缩2．3．1 模型压缩方案概述2．3．2 结构化模型压缩策略2．3．3 非结构化模型压缩策略2．3．4 8位/4位量化压缩实战2．4 大模型微调方法2．4．1 Prefix Tuning微调2．4．2 P-Tuning V1微调2．4．3 P-Tuning V2微调2．4．4 LoRA微调2．4．5 QLoRA微调2．5 基于旋转位置编码RoPE的长文本理解2．5．1 RoPE技术原理2．5．2 RoPE关键特性第3章 主流大模型3．1 国内大模型3．1．1 智谱清言ChatGLM3．1．2 百川智能3．1．3 百度文心一言3．1．4 阿里巴巴通义千问3．1．5 腾讯混元3．1．6 华为盘古3．1．7 360智脑3．1．8 科大讯飞星火3．1．9 智源悟道大模型3．1．10 月之暗面Kimi3．1．11 复旦大学MOSS3．1．12 零一万物3．1．13 字节跳动豆包大模型3．2 国外大模型3．2．1 OpenAI GPT-4o3．2．2 Meta LLaMA3．2．3 Anthropic Claude3．2．4 谷歌Gemini和开源Gemma3．2．5 Mistral Large3．2．6 xAI Grok3．3 垂直类大模型3．3．1 HuatuoGPT3．3．2 BianQue3．3．3 BenTsao3．3．4 XrayGLM3．3．5 DoctorGLM3．3．6 ChatMed3．3．7 度小满轩辕3．3．8 BloombergGPT3．3．9 LawGPT3．3．10 LexiLaw3．3．11 Lawyer LLaMA3．3．12 ChatLaw3．3．13 ChatGLM-Math第4章 LangChain技术原理与实践4．1 LangChain技术原理4．2 LangChain六大核心模块4．2．1 模型I/O4．2．2 数据增强模块4．2．3 链模块4．2．4 记忆模块4．2．5 Agent模块4．2．6 回调处理器第5章 RAG检索增强生成5．1 RAG技术原理5．1．1 RAG的概念与应用5．1．2 RAG技术架构5．1．3 分块和向量化5．1．4 搜索索引5．1．5 重新排序和过滤5．1．6 查询转换与路由5．1．7 RAG中的Agent智能体5．1．8 响应合成器5．1．9 大模型微调和RAG优劣势对比5．2 文本向量模型5．2．1 Embedding模型、Reranker模型及ColBERT模型5．2．2 阿里巴巴GTE向量模型5．2．3 中文acge_text_embedding模型5．2．4 智源中英文语义向量模型BGE5．2．5 Moka开源文本嵌入模型M3E5．2．6 OpenAI的text-embedding模型5．3 向量数据库5．3．1 Faiss5．3．2 Milvus5．3．3 Pinecone5．3．4 Chroma5．4 RAG应用实践5．4．1 基于大模型构建企业私有数据的知识问答5．4．2 应对大模型落地挑战的优化策略第6章 多模态大模型6．1 多模态基础模型6．1．1 多模态对齐、融合和表示6．1．2 CLIP6．1．3 BLIP6．1．4 BLIP-26．1．5 InstructBLIP和X-InstructBLIP6．1．6 SAM6．1．7 OpenFlamingo6．1．8 VideoChat6．1．9 PaLM-E6．2 OpenAI多模态大模型DALL·E 3、GPT-4V、GPT-4o、Sora6．2．1 文生图多模态大模型DALL·E 36．2．2 GPT-4V6．2．3 端到端训练多模态大模型GPT-4o技术原理6．2．4 文生视频多模态大模型Sora6．3 通义千问多模态大模型6．3．1 开源Qwen-VL和Qwen-VL-Chat6．3．2 Qwen-VL-Plus和Qwen-VL-Max6．4 开源端到端训练多模态大模型LLaVA6．4．1 LLaVA6．4．2 LLaVA-1．56．4．3 LLaVA-1．66．4．4 MoE-LLaVA6．4．5 LLaVA-Plus6．4．6 Video-LLaVA和LLaVA-NeXT-Video6．5 零一万物多模态大模型Yi-VL系列6．5．1 Yi-VL系列模型架构6．5．2 Yi-VL系列模型训练微调及推理6．6 清华系多模态大模型6．6．1 VisualGLM-6B6．6．2 CogVLM26．6．3 CogAgent6．6．4 CogView、CogVideo和CogVideoX6．6．5 CogCoM6．6．6 GLM-4V-9B第7章 AI Agent智能体7．1 AI Agent智能体介绍和原理7．1．1 AI Agent的定义与角色7．1．2 AI Agent技术原理7．2 主流大模型Agent框架7．2．1 AutoGPT7．2．2 MetaGPT7．2．3 ChatDev7．2．4 AutoGen7．2．5 FastGPT7．2．6 XAgent7．2．7 GPT-Engineer7．2．8 BabyAGI7．2．9 SuperAGI第8章 大模型在企业应用中落地8．1 基于大模型的对话式推荐系统8．1．1 基于大模型的对话式推荐系统技术架构设计8．1．2 推荐AI Agent智能体8．1．3 面向推荐的语言表达模型8．1．4 知识插件8．1．5 基于大模型的推荐解释8．1．6 对话式推荐系统的新型评测方法8．2 多模态搜索8．2．1 多模态搜索技术架构设计8．2．2 多模态搜索关键技术8．2．3 多模态实时搜索与个性化推荐8．3 基于自然语言交互的NL2SQL数据即席查询8．3．1 NL2SQL数据即席查询技术原理8．3．2 NL2SQL应用实践8．4 基于大模型的智能客服对话机器人8．4．1 大模型智能客服对话机器人技术原理8．4．2 AI大模型赋能提升智能客服解决率新策略8．4．3 基于大模型的智能客服对话机器人系统搭建8．5 多模态数字人8．5．1 多模态数字人技术原理8．5．2 三维建模与三维重建8．5．3 数字人形象设计8．5．4 唇形同步算法8．5．5 NeRF、ER-NeRF与RAD-NeRF模型8．5．6 数字人项目实践8．6 多模态具身智能8．6．1 多模态具身智能概念及技术路线8．6．2 多模态感知与场景理解8．6．3 视觉导航8．6．4 世界模型8．6．5 具身智能模拟器8．6．6 多模态多感官交互具身智能大模型8．6．7 端到端强化学习人形机器人8．6．8 多模态通才具身智能体   
本地知识库搭建完全指南
青蛙博客
03-03 2925
本文详细介绍了如何搭建本地知识库系统，主要包含两个核心步骤：安装配置Ollama和部署AnythingLLM。文章分别针对Windows、macOS和Linux三大操作系统，详细说明了Ollama的安装流程、环境变量配置以及模型下载过程。在AnythingLLM部分，介绍了系统要求、安装步骤和初始化配置，并提供了Docker部署方案。最后通过系统配置、工作区创建、模型设置、文档上传和知识库查询等步骤，完整展示了知识库的使用流程。
只需三步，本地打造自己的AI个人专属知识库（附教程）
AAI666666的博客
01-19 1万+
只需三步，本地打造自己的AI个人专属知识库
基于Ollama+AnythingLLM轻松打造本地大模型知识库
qq_44373268的博客
05-03 7653
Ollama是一个开源的大型语言模型服务工具，它帮助用户快速在本地运行大模型。通过简单的安装指令，用户可以执行一条命令就在本地运行开源大型语言模型，如Llama 2和最新开源的Llama 3。Ollama极大地简化了在Docker容器内部署和管理LLM的过程，使得用户能够快速地在本地运行大型语言模型。AnythingLLM 是 Mintplex Labs Inc. 开发的一款可以与任何内容聊天的私人 ChatGPT，是高效、可定制、开源的企业级文档聊天机器人解决方案。
0基础玩deepseek+RAGFlow本地部署+搭建知识库
m0_58592891的博客
02-06 2万+
宝子们😎，还在为找资料东奔西走，被付费知识 “割韭菜” 而烦恼吗🧐？今天就给大家分享超实用的技术干货 ——DeepSeek 和 RAGFlow 本地部署，再手把手教你搭建专属知识库📚，让知识管理和获取变得轻松又高效，而且 0 基础也能轻松上手！宝子们😎，还在为找资料东奔西走，被付费知识 “割韭菜” 而烦恼吗🧐？今天就给大家分享超实用的技术干货 ——DeepSeek 和 RAGFlow 本地部署，再手把手教你搭建专属知识库📚，让知识管理和获取变得轻松又高效，而且 0 基础也能轻松上手！1、安装。
手把手教你用 DeepSeek + Cherry Studio 构建 AI 知识库
老黄浅谈质量的博客
02-07 1万+
DeepSeek 是北京深度求索人工智能基础技术研究有限公司推出的大语言模型算法 ，以 transformer 架构为基础，通过海量语料数据进行预训练，能实现语义分析、计算推理、问答对话等多种任务。它在编码、数学、中文理解等方面表现出色，经过不断的版本迭代，性能持续提升，如 DeepSeek-V3 在知识类任务上的水平显著提升，生成速度也大幅提高。
DeepSeek+ollama+chaBox本地部署，傻瓜式教程，手把手带你打造最强AI
无法支撑我那丰满的欲望和消瘦的理想
02-06 2114
DeepSeek 傻瓜式本地部署
AnythingLLM+Ollama，能否打造你的专属个性化AI助手？
xx_nm98的博客
10-24 6565
AnythingLLM是一个AI聊天系统，它允许用户构建自己的私人ChatGPT。与依赖云服务的AI工具不同，AnythingLLM支持本地开源和商用闭源的大语言模型（LLM），用户可以根据自己的需求和预算选择合适的模型。
拥抱开源大模型，一篇文章快速了解Ollama+本地知识库创建
DEVELOPERAA的博客
10-31 1466
Ollama是一个便于用户在本地部署和管理开源大语言模型的应用框架，极大简化了开源大语言模型的安装和配置细节。
全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！
lythinking的博客
04-15 7314
本地运行大模型耗资源，需要选择较小的模型作为基础模型。在终端中运行时可能会出现 CUDA 错误，表示显存不足，导致提供的端口失效。若使用Hugging Face，需要申请 API Key 并且需要本地有 Python 或其他编程语言的环境。而使用Ollama则更加简单。✨ AI算法工程师 | AIGC技术实践者 🚀🎵 知音难求，自我修炼亦艰。📚 吾生也有涯，而知也无涯。🌌 AIGC时代，立志成为超级个体：抓住前沿技术的机遇，与我们一起成为创新的超级个体。✉️ 回复“群聊”，就能和大家嗨聊！
AnythingLLM + Ollama 实现私有知识库
2301_76168381的博客
01-29 4627
是一款开箱即用的一体化 AI 应用，支持 RAG（检索增强生成）、AI 代理等功能。它无需编写代码或处理复杂的基础设施问题，适合快速搭建私有知识库和智能问答系统。通过和Ollama的结合，我们成功搭建了一个具备私有知识库能力的 AI 应用。私有知识库不仅可以让 AI 回答通用问题，还能基于私有文档（如企业内部资料、图书等）生成更精准的答案。❝注意： 随着知识库中文档数量的增加，回答的准确性可能会受到影响。建议将文档分散到多个工作区，以提高检索效率。
手把手教你实现Ollama+MaxKB 创建本地知识库
bagell的博客
11-19 4342
今天我们介绍一种部署本地知识库的方案：Ollama+MaxKB废话不多说，直接开始吧首先我们通过 Docker 安装 MaxKB (maxKB可以安装在本地，也可以安装在云服务器上)进入系统后，是这样的接下来我们进行最重要的模型搭建，模型搭建我们选择直接租赁GPU，以在GPUEZ平台(https://gpuez.com)为例登录智算云算力平台，租赁实例最近智算云平台一直在做活动，新用户注册即送5元体验金，平台所有商品一律8折，这波羊毛值得薅一薅。
AnythingLLM+Ollama，基于RAG方案构专属私有知识库
技术宅男改变世界
01-16 2788
官网https://anythingllm.com/AnythingLLM是一个AI聊天系统，它允许用户构建自己的私人ChatGPT。与依赖云服务的AI工具不同，AnythingLLM支持本地开源和商用闭源的大语言模型（LLM），用户可以根据自己的需求和预算选择合适的模型。和之前的大模型部署和应用过程相比，基于 AnythingLLM 的 RAG 实现整个部署过程比较繁琐，包括环境准备、Docker 安装和配置、AnythingLLM 配置等。
基于Ollama+AnythingLLM搭建本地私有知识库系统
热门推荐
sheex2012的博客
04-30 6万+
本文介绍了LLM在落地应用中的不足，并引入了RAG框架和原理，以及RAG在私有知识库建设中的重要作用。并以Ollama和AnythingLLM为实现手段，构建了并测试了本地知识库，测试结果表明，有了RAG的加持，LLM的回答结果更加贴切，有效。
使用AnythingLLM搭配ollama、deepseek搭建自己的本地知识库
FlyLikeButterfly的博客
03-06 1464
使用AnythongLLM+ollama+deepseek搭建本地知识库；
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值