DeepSeek + Dify + Ollama 本地部署流程

目录

一、概念讲解

1. DeepSeek

2. Dify

3. Ollama

二、本地部署流程

1. 安装 Ollama

2. 部署 DeepSeek 模型

3. 安装 Dify

4. 创建知识库

三、应用场景

四、注意事项

​编辑

​编辑

​编辑

​编辑

​编辑

五、总结

---

 ollama架构图

---

随着人工智能技术的快速发展，本地部署大语言模型（LLM）和知识库的需求日益增加。本文将详细介绍如何在本地环境中部署 DeepSeek 模型，并通过 Dify 和 Ollama 构建一个高效的知识库系统。通过这一流程，你可以在本地环境中实现数据隐私保护，同时享受大语言模型的强大功能。

一、概念讲解

1. DeepSeek

DeepSeek 是一款开源的大语言模型，具有先进的算法架构和反思链能力，能够为 AI 对话交互带来革新性的体验。它支持多种模型尺寸（如 7B、14B 等），可以根据硬件配置选择合适的版本。

2. Dify

Dify.AI · 生成式 AI 应用创新引擎

Dify 是一个开源的 AI 应用开发平台，支持多种大语言模型（如 OpenAI、DeepSeek 等），并提供可视化编排工具。它可以帮助用户快速构建和部署 AI 应用，如智能客服、知识库问答等。

3. Ollama

Ollama 是一个轻量级的开源模型管理工具，支持多种 LLM 模型的本地运行。它提供了便捷的模型部署和管理功能，确保所有数据保存在本地，保护用户隐私。

二、本地部署流程

1. 安装 Ollama

1. 访问 Ollama 官网，根据你的操作系统（Windows、MacOS、Linux）下载并安装 Ollama。

2. 安装完成后，在终端运行以下命令验证安装是否成功：

   ollama -v

   如果显示版本号，则说明安装成功。

2. 部署 DeepSeek 模型

1. 在 Ollama 官网的「Models」页面中找到 DeepSeek R1 模型。

2. 根据你的硬件配置（显存大小）选择合适的模型版本（如 7B 或 14B），并复制对应的下载命令。

3. 在终端运行下载命令，例如：

   ollama run deepseek-r1:7b

   安装完成后，你就可以通过 Ollama 使用 DeepSeek 模型。

3. 安装 Dify

1. 安装 Docker：确保你的系统已安装 Docker。如果未安装，请访问 Docker 官网下载并安装。

2. 克隆 Dify 代码：

   git clone https://github.com/langgenius/dify.git
   cd dify/docker

3. 配置环境变量：

   • 将 .env.example 文件复制为 .env：

     cp .env.example .env

   • 根据需要修改 .env 文件中的配置项，例如启用自定义模型并指定 Ollama 的 API 地址：

     CUSTOM_MODEL_ENABLED=true
     OLLAMA_API_BASE_URL=host.docker.internal:11434

     如果你使用的是 Linux 或其他系统，可能需要将 host.docker.internal 替换为你的本机 IP。

4. 启动 Dify：

   docker compose up -d

   如果你的 Docker Compose 版本较低，请使用 docker-compose up -d。

5. 初始化 Dify：

   • 访问 http://localhost/install，完成管理员信息初始化。

   • 登录后，进入「设置」>「模型供应商」，添加 Ollama 模型。

   • 填写模型名称（如 deepseek-r1:7b）和基础 URL（如 http://host.docker.internal:11434）。

4. 创建知识库

1. 上传文档：

   • 在 Dify 仪表盘中选择「文档管理」模块，上传需要处理的文档（支持 PDF、Word、Excel 等格式）。

2. 配置 RAG 管道：

   • 进入「RAG 管道」页面，选择 DeepSeek 或 Ollama 模型，并配置相关参数。

3. 启动检索服务：

   • 完成配置后，启动 RAG 管道服务。系统会自动对上传的文档进行解析和向量化处理。

4. 测试问答功能：

   • 在 Dify 的测试界面中输入问题，系统会基于本地知识库返回准确的答案。

三、应用场景

1. 智能客服：通过 Dify 构建的智能客服系统可以实时回答用户问题，提升客户服务效率。

2. 知识库问答：将企业内部文档上传到知识库，员工可以通过自然语言查询相关信息。

3. 内容生成：利用 DeepSeek 模型生成高质量的文章、报告等内容。

四、注意事项

1. 硬件要求：部署大语言模型需要足够的硬件资源，特别是显存。建议选择适合你硬件配置的模型版本。

2. 网络配置：如果在部署过程中遇到网络问题，可以尝试配置国内 Docker 镜像源。

3. 数据隐私：所有数据均保存在本地，确保数据隐私和安全。

4. 

5. 

6. 

7. 

8. 

9. 

10. 

11. 

12. 

13. 

五、总结

通过 Ollama 部署 DeepSeek 模型，并结合 Dify 构建本地知识库，可以实现高效的企业内部信息管理和智能应用开发。这一方案不仅保护了数据隐私，还提供了强大的 AI 功能支持。希望本文的教程能帮助你在本地环境中快速搭建和使用这一系统。

如果你在部署过程中遇到任何问题，可以参考相关文档或社区资源。

 另外优秀的博客：

Ollama 教程推荐：从入门到进阶的详细指南_ollama入门-优快云博客文章浏览阅读1k次，点赞5次，收藏7次。Ollama 作为一个开源的本地化模型管理工具，凭借其简洁的操作和强大的功能，成为了许多用户的首选。通过本文推荐的教程，你可以从零开始快速上手 Ollama，并掌握从模型下载、运行到 API 调用和工具集成的进阶技巧。通过 Ollama，你可以轻松下载并运行 DeepSeek R1 模型，结合 AnythingLLM 或 Chatbox，快速搭建知识库。例如，使用量化版本的 DeepSeek R1 模型，可以在不损失太多性能的情况下，大幅减少显存占用。，你可以创建自定义模型，定义模型的行为和参数。_ollama入门https://blog.youkuaiyun.com/csdn122345/article/details/145814084

Ollama教程推荐：从入门到进阶的详细指南-优快云博客文章浏览阅读570次，点赞16次，收藏29次。随着人工智能技术的飞速发展，大型语言模型（LLM）在各个领域的应用越来越广泛。然而，如何在本地环境中高效运行和管理这些模型，成为了许多开发者和企业面临的问题。Ollama作为一个开源的本地化模型管理工具，凭借其简洁的操作和强大的功能，成为了许多用户的首选。本文将从入门到进阶，详细讲解Ollama的安装、使用、模型管理、API调用、工具集成以及最佳实践，帮助读者快速上手并掌握Ollama的高级应用技巧。_ollama教程https://blog.youkuaiyun.com/csdn122345/article/details/148379882

ollama容器里面拉取deepseek_ollama拉取deepseek-优快云博客文章浏览阅读722次，点赞9次，收藏4次。DeepSeek 的 7B 版本需要至少 8GB 内存，而 14B 版本需要至少 16GB 内存。命令拉取 DeepSeek 模型。通过以上步骤，你可以在 Docker 容器中成功拉取并运行 DeepSeek 模型。首先，拉取 Ollama 的 Docker 镜像并启动容器。：模型文件较大，下载速度可能受网络状况影响。如果下载中断，可以重新运行。此时，你可以通过命令行与模型进行交互。在容器内部，使用 Ollama 的。挂载卷，确保模型数据持久化。命令，支持断点续传。_ollama拉取deepseekhttps://blog.youkuaiyun.com/csdn122345/article/details/145801621

调用Ollama接口上传文件及交互教程_ollama 上传文件-优快云博客文章浏览阅读1.6k次，点赞4次，收藏2次。Ollama 提供了强大的 API 接口，支持文本生成、多轮对话和多模态输入等功能。通过简单的 HTTP 请求，开发者可以轻松地与 Ollama 模型进行交互，实现丰富的应用场景。希望本文能帮助你更好地使用 Ollama API。_ollama 上传文件https://blog.youkuaiyun.com/csdn122345/article/details/145701484

Ollama 创建知识库的模型推荐_ollama 向量模型-优快云博客文章浏览阅读2.1k次，点赞17次，收藏16次。通过 Ollama 和推荐的模型（如 DeepSeek-R1、BGE-M3 和 Mixtral），可以高效地搭建本地知识库。随着大语言模型（LLM）的快速发展，本地知识库的构建变得越来越重要，尤其是在数据隐私和安全性要求较高的场景中。Ollama 作为一个强大的本地化模型管理工具，结合合适的模型和平台，可以高效地搭建个人或企业级知识库。BGE-M3 是由北京智源人工智能研究院开发的多语言长文本向量检索模型，适合需要多语言支持和高效检索的场景。使用 BGE-M3 模型进行文档嵌入，以实现高效的语义检索。_ollama 向量模型https://blog.youkuaiyun.com/csdn122345/article/details/145787322

Ollama：本地部署大型语言模型的开源利器-优快云博客文章浏览阅读804次，点赞15次，收藏10次。Ollama 是一个开源框架，专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计。它通过简化模型的部署流程，使得非专业用户也能轻松管理和运行复杂的语言模型。Ollama 的目标是让用户能够在本地环境中快速启动和运行各种开源 LLM，而无需依赖外部服务器或云服务。Ollama 不仅支持直接使用预训练模型，还允许用户根据自己的需求对模型进行微调。用户可以通过自定义提示（Prompt Engineering）或使用自己的数据对模型进行再训练，从而优化模型的性能和准确度。_ollamahttps://blog.youkuaiyun.com/csdn122345/article/details/145681585

本地大模型部署与应用实践：以 Ollama 为例构建私有化 AI 应用_olllma-优快云博客文章浏览阅读558次，点赞23次，收藏24次。本文主要介绍了如何在本地部署大模型（以 Ollama 为例），并将其应用于实际开发中。通过详细的步骤说明和实践示例，帮助中国开发者快速掌握本地大模型的部署与使用方法。文章涵盖了环境配置、代码实现、架构设计、流程优化等多个方面，并提供了丰富的图表和代码示例，旨在为 AI 应用开发者提供一个实用性强、可操作的参考指南。第一章：引言 - 为什么选择本地大模型随着人工智能技术的飞速发展，大语言模型（LLM）在自然语言处理（NLP）领域展现出强大的能力。然而，依赖云端 API 的方式存在成本高、网络延迟、数据隐_olllmahttps://blog.youkuaiyun.com/csdn122345/article/details/149969276

Docker Compose 部署 Dify + Ollama 全栈指南：从裸奔到安全可观测的 AI 应用实战-优快云博客文章浏览阅读1.3k次，点赞40次，收藏13次。本文以中国开发者视角出发，手把手教你用 Docker Compose 在本地或轻量云主机上部署组合栈，实现“安全、可观测、可扩展”的私有化 AI 应用平台。架构图、流程图、甘特图、思维导图等 6 种图表；10+ 段可直接复制的 Python 示例代码；5 大实战场景（RAG 知识库、代码助手、企业内部问答等）；常见 15 个“坑”及解决方案；从裸奔到 HTTPS + Basic Auth + IP 白名单的完整安全加固方案。读完即可在生产环境落地。维度达成情况安全性。https://blog.youkuaiyun.com/csdn122345/article/details/149881596

Docker安装、运行、配置及卸载Ollama的详细教程_docker 运行ollama-优快云博客文章浏览阅读2.3k次，点赞22次，收藏17次。通过本文的介绍，你已经掌握了如何在 Docker 中安装、运行、配置及卸载 Ollama。Ollama 提供了强大的机器学习模型管理功能，结合 Docker 的隔离性，可以快速搭建高效、稳定的运行环境。希望本文能帮助你更好地使用 Ollama。_docker 运行ollamahttps://blog.youkuaiyun.com/csdn122345/article/details/145687034

DeepSeek-R1模型本地部署教程：使用Ollama_curl 请求本地 ollama deepseek r1-优快云博客文章浏览阅读664次，点赞14次，收藏9次。Ollama是一个开源项目，旨在简化大型语言模型的部署和服务。它支持多种流行的大规模预训练模型，并提供了一键安装、丰富的命令行工具以及用户友好的Web UI 界面。DeepSeek-R1是一款性能强大的开源AI模型，支持代码生成、逻辑推理等复杂任务。由于其在多个任务上的出色表现，DeepSeek-R1成为了众多开发者和研究者的首选模型之一。_curl 请求本地 ollama deepseek r1https://blog.youkuaiyun.com/csdn122345/article/details/145582305

如何查看和管理 Ollama 中的 DeepSeek API 密钥_ollama api密钥-优快云博客文章浏览阅读3.8k次，点赞8次，收藏5次。在使用 Ollama 和 DeepSeek 时，正确管理 API 密钥是确保安全性和功能性的关键。通过以下步骤，您可以轻松获取和管理 API 密钥：在 DeepSeek 平台上注册并登录，创建新的 API 密钥。将 API 密钥存储在环境变量中，避免直接写入代码。在 Ollama 中正确配置 API 密钥，确保服务能够正常调用 DeepSeek API。希望本文能帮助您更好地管理和使用 DeepSeek API 密钥。如果在实际操作中遇到问题，欢迎在评论区留言讨论！_ollama api密钥https://blog.youkuaiyun.com/csdn122345/article/details/146016357

使用 Docker Compose 安装和配置 Ollama_ollama docker compose-优快云博客文章浏览阅读979次，点赞4次，收藏9次。Ollama 是一款开源工具，允许用户在本地便捷地运行多种大型开源模型，如 DeepSeek、ChatGLM、Llama 等。通过 Docker Compose，我们可以快速部署 Ollama 服务，并结合其他工具（如 Dify 或 Open-WebUI）构建强大的 AI 应用。通过 Docker Compose，我们可以快速部署 Ollama 服务，并结合 Open-WebUI 提供更便捷的交互体验。：如果 Ollama 和 WebUI 部署在不同机器上，请确保网络配置正确。在你的工作目录中创建一个。_ollama docker composehttps://blog.youkuaiyun.com/csdn122345/article/details/145783006

ollama本地部署如何查看deepseek的api密钥_ollama api key怎么查看-优快云博客文章浏览阅读9.4k次，点赞4次，收藏10次。在本地部署 Ollama 时，可以通过设置环境变量或在 Ollama 的配置文件中指定 API 密钥。如果你使用 FastAPI 构建了一个代理服务来保护 Ollama 的本地 LLM 服务，可以在 FastAPI 的代码中设置和管理 API 密钥。如果你使用的是支持 Ollama 的客户端工具（如 Chatbox），可以在工具的设置中直接输入 DeepSeek 的 API 密钥。通过以上方法，你可以在本地部署的 Ollama 中查看和配置 DeepSeek 的 API 密钥，确保服务的安全性和可用性。_ollama api key怎么查看https://blog.youkuaiyun.com/csdn122345/article/details/146016584

Ollama模型频繁重载问题终极解决方案：AI开发者实战指南-优快云博客文章浏览阅读294次，点赞4次，收藏7次。在使用AnythingLLM或Dify等本地大语言模型应用时，开发者经常遇到一个令人头疼的问题：每次对话都需要重新加载模型，严重影响性能和用户体验。本文针对中国AI应用开发者，深入分析了这一问题的根本原因，并提供了从环境配置到API调用优化的全方位解决方案。通过详细的实践示例、架构图、流程图等可视化内容，帮助读者快速定位并解决模型重载问题。文章还涵盖了常见问题解答、最佳实践建议及扩展阅读资源，确保读者能够高效应用所学知识，提升AI应用的性能和用户体验。https://blog.youkuaiyun.com/csdn122345/article/details/150000220

Ollama：轻松上手大语言模型的利器_ollama支持哪些语音识别大模型-优快云博客文章浏览阅读597次，点赞11次，收藏14次。随着人工智能技术的飞速发展，大语言模型（LLM）在自然语言处理领域扮演着越来越重要的角色。然而，部署和使用这些模型往往需要复杂的配置和高昂的硬件成本。Ollama 的出现，为这一问题提供了一个简单、高效且易于使用的解决方案。Ollama 是一个轻量级、可扩展的框架，支持多种大语言模型，能够帮助用户快速上手并运行这些模型。本文将详细介绍 Ollama 的功能特性、技术架构、安装与使用方法、应用场景以及开发过程中需要注意的事项，帮助读者更好地理解和使用这一强大的工具。用户界面模块。_ollama支持哪些语音识别大模型https://blog.youkuaiyun.com/csdn122345/article/details/147776803

解决 Ollama 无法通过本地 IP 访问 11434 端口的问题_ollama 11434 打不开-优快云博客文章浏览阅读1.9w次，点赞9次，收藏24次。通过更改 Ollama 的绑定地址、检查防火墙配置和 Docker 网络设置，你应该能够解决无法通过本地 IP 访问 11434 端口的问题。如果问题仍然存在，可以尝试使用 Nginx 设置反向代理，将请求转发到 Ollama 服务。希望这些方法能帮助你解决问题。如果还有疑问，欢迎随时交流。_ollama 11434 打不开https://blog.youkuaiyun.com/csdn122345/article/details/145714376

使用 VSCode + Ollama + Twinny 构建高效 AI 编程环境_vscode ollama-优快云博客文章浏览阅读790次，点赞14次，收藏24次。Ollama 是一个开源的 AI 模型管理工具，允许你在本地运行和管理各种 AI 模型，如 DeepSeek、Claude 等。它提供了简单易用的命令行接口，可以快速加载和使用模型，同时支持 GPU 加速，适合需要高性能计算的场景。通过 VSCode + Ollama + Twinny 的组合，开发者可以获得一个强大的 AI 编程环境。Twinny 提供了代码生成、复杂任务处理和文件操作的能力，而 Ollama 则确保了高性能的模型运行。这种组合不仅提升了开发效率，还降低了代码实现的复杂性。_vscode ollamahttps://blog.youkuaiyun.com/csdn122345/article/details/145671220

使用 VSCode 和 Ollama 构建基于 RAG 的问答系统_ollama vscode-优快云博客文章浏览阅读1.3k次，点赞11次，收藏9次。通过本文的介绍，你已经学会了如何使用 VSCode 和 Ollama 构建一个基于 RAG 的问答系统。该系统通过检索知识库中的相关内容，结合语言模型生成回答，能够有效提升问答的准确性和实用性。你可以根据需求扩展知识库内容，或结合更多功能（如流式响应、多模态支持）进一步优化系统。如果你在实现过程中遇到任何问题，欢迎在评论区留言，我会及时为你解答。_ollama vscodehttps://blog.youkuaiyun.com/csdn122345/article/details/145667302

Ollama 模型下载失败：解决 “no space left on device” 错误_ollama下载模型失败-优快云博客文章浏览阅读1.4k次，点赞9次，收藏10次。Ollama 是一个轻量级的 AI 模型管理工具，用于运行和管理大型语言模型。它通过本地化的方式运行模型，支持多种模型架构，并且可以与现有的开发工具无缝集成。然而，由于 Ollama 需要将模型文件存储在本地磁盘上，因此磁盘空间不足会直接影响其功能。是使用 Ollama 时常见的问题之一，但通过清理磁盘空间、扩展存储、调整配置等方法，可以有效解决这一问题。希望本文的介绍能帮助你在使用 Ollama 时避免因磁盘空间不足而导致的困扰。如果你在实际操作中遇到其他问题，欢迎在评论区留言，我们一起探讨解决方案！_ollama下载模型失败https://blog.youkuaiyun.com/csdn122345/article/details/146111237

解决 Ollama 和 Dify 集成时的“Connection Refused”错误_dify无法连接ollama-优快云博客文章浏览阅读9.1k次，点赞6次，收藏23次。通过以上步骤，可以解决 Dify 和 Ollama 集成时的“Connection Refused”错误。如果 Ollama 和 Dify 需要通信，确保它们在同一 Docker 网络中。，并且 Dify 和 Ollama 的网络配置正确。如果 Ollama 和 Dify 未在同一 Docker 网络中，会导致连接失败。如果仍有问题，建议参考 Ollama 和 Dify 的官方文档或社区支持。如果 Dify 和 Ollama 都运行在 Docker 容器中，使用。指的是容器内部，而不是宿主机。_dify无法连接ollamahttps://blog.youkuaiyun.com/csdn122345/article/details/145786851

调用Ollama接口上传Excel文件及交互教程_ollama excel-优快云博客文章浏览阅读2.7k次，点赞49次，收藏20次。Ollama 提供了强大的 API 接口，支持文本生成、多轮对话和多模态输入（如图片和文件）等功能。通过简单的 HTTP 请求或命令行调用，开发者可以轻松地与 Ollama 模型进行交互，实现丰富的应用场景。希望本文能帮助你更好地使用 Ollama API。_ollama excelhttps://blog.youkuaiyun.com/csdn122345/article/details/145701551

Windows中Ollama开放局域网其他电脑访问_ollama局域网访问-优快云博客文章浏览阅读7.5k次，点赞22次，收藏29次。通过上述步骤，你可以轻松地在Windows上配置Ollama服务，使其能够被局域网中的其他设备访问。具体操作包括：设置环境变量为0.0.0.0。在Windows防火墙中开放端口11434。完成这些设置后，你就可以在局域网内共享Ollama服务，实现更广泛的应用场景。_ollama局域网访问https://blog.youkuaiyun.com/csdn122345/article/details/145667585