deepseek+docker+ollama+dify私有化部署智能助手和知识库要点

已于 2025-03-26 09:26:57 修改
阅读量242 收藏 6
点赞数 8
CC 4.0 BY-SA版权
文章标签： docker 容器 运维 知识图谱 人工智能 语言模型
于 2025-03-25 11:54:03 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/haming11/article/details/146361990

先说明一下，本人云服务器是centos 4核8G无GPU，为了部署方便借助宝塔，不知道如何下载安装宝塔的可以去宝塔官网，傻瓜式安装

1.安装ollama 和dify （注意如果安装失败，需要配置加速URL）

2.ollama 安装模型

需要安装2类模型，这里我装了deepseekr1和bge-m3（Embedding模型）

3.配置dify

因为我的dify是绑定到8081端口，所以我的dify访问地址是：ip:8081/apps，第一次登录需要设置管理员账号

设置好管理员账号，登录进入然后去设置页面设置模型商

如果模型列表显示模型未配置，先进行模型商的安装

如果安装不成功，可以进行手动安装，点击上面的详情里面可以下载difypkg格式的文件，导入下面的本地插件进行安装，安装好之后回到刚才设置的页面，选择刚安装的ollama

接下来就是添加模型

模型名称就是之前安装的如果不知道，可以docker登录 然后输入ollama list可以列出你所安装的模型，基础url就是你的当前ip:11434,下面默认点保存如下

4.上传知识库

注意选择embedding模型，保存，等待解析完成

5.新增聊天助手

这里选择知识库，保存之后

可以直接部署网站也可以api调用

点击运行可以测试一下效果，如果打不开注意添加上绑定的端口

具体部署问题可以搜索 “海说AI大模型” 找我免费咨询

服务器使用宝塔面板Docker应用快速部署 DeepSeek-R1模型，实现Open WebUI访问使用
ttbobocom的博客
02-10 2977
按理这步应该到此为止了，下载模型时老提示超时，这边模型也没下载成功，后面试了几次了下载成功，下了个最小的ollama run deepseek-r1:1.5b 大小1.5G ，模型下载非常慢用时也差不多1个小时。按理这步应该到此为止了，下载模型时老提示超时，这边模型也没下载成功，后面试了几次了几次下载成功，下了个最小的ollama run deepseek-r1:1.5b 大小1.5G ，模型下载非常慢。完成通过域名访问，网址打开时会提示输入管理账号密码，需要设置下，设置好就能正常进入界面。
Dify本地化部署并集成Ollama DeepSeek
liuaiguo75的博客
02-19 1784
通过宝塔面板安装 Dify并集成Ollama DeepSeek的方法
【本地部署】 Deepseek+Dify创建工作流
qq_44812865的博客
05-27 495
Dify 专注于构建智能的对话式应用和工作流自动化平台。其核心优势在于能够轻松地将各种服务、工具以及模型整合在一起，通过简单的配置和连接，实现复杂业务流程的自动化执行。比如，可以设置一个自动化的客户咨询回复流程，当客户通过聊天窗口发送问题时，Dify 能自动调用相关知识库和逻辑规则，快速生成恰当的回复，提高客户服务效率。
宝塔面板docker搭建本地 dify + ollama
scola001的专栏
04-11 622
安装宝塔面板 9.5.0版 及Docker管理器插件。虚拟机至少8GB内存的ubuntu24。设置 dify账号后登录。
超实用！用 Dify + DeepSeek +Ollama 搭建本地Ai助手
qq_46094651的博客
04-12 801
今天分享用 **Dify + DeepSeek + Ollama** 搭建本地Ai助手。 **本地部署大模型**，好处是数据不会上传，使用本地机器进行交互，但是对机器有一定要求。 这里使用**DeepSeek蒸馏版**，性能可能相对于671B满血版有一定的削减。
ollama 安装
zengliguang的专栏
11-27 7718
以上是不同操作系统下Ollama的安装步骤，希望对您有所帮助。如果在安装过程中遇到任何问题，可以参考Ollama的官方文档或社区资源进行故障排查。
Docker、Ollama、Dify 及 DeepSeek 安装配置与搭建企业级本地私有化知识库实践
qq_33665793的博客
02-09 2036
4. **DeepSeek**：DeepSeek 是一款针对大数据的搜索引擎，能够帮助企业在本地搭建高效的深度搜索系统，支持语义搜索、文档推荐、快速检索等功能，非常适合用于企业级知识库的检索和推荐服务。本文将介绍如何利用 **Docker**、**Ollama**、**Dify** 和 **DeepSeek** 等工具来搭建一个企业级本地私有化知识库，具体包括安装、配置和实现企业需求的步骤。- **多模态处理**：使用 Dify 来扩展系统的多模态功能，可以支持文本、图像等不同类型的数据输入。
超实用！用 Ollama + DeepSeek + Dify 搭建本地知识库，提升企业效率
Happiness is everywhere
02-13 3630
本文介绍了如何使用 Ollama + DeepSeek + Dify 搭建本地知识库，帮助企业高效管理信息。通过简单配置，可实现智能问答、文档检索等功能，提升效率并保障数据安全。
DeepSeek本地部署与Dify结合创建私有知识库指南
weixin_52037378的博客
02-27 1178
DeepSeek通过与Dify的结合，用户能够将个人资料、专业文章、日常日记等多种形式的文本内容上传至本地知识库，从而创建出一个能够满足个人需求的私人助理。
实战教程，基于DeepSeek + Dify搭建工作流，实现本地化私有部署
分享Python、数据分析、人工智能前沿知识
03-04 2947
工作流是由于DeepSeek等大模型的兴起而开始风靡的，它可以基于AI和流程设计来实现自动化的AI应用，比如说自动化生成业务报告、AI自媒体写作、简历筛选机器人等。这些复杂繁琐的工作可以通过DeepSeek这类的大模型生成解决方案，并最终输出结果，形成一套工作流。目前市面上有不少搭建工作流的工具，比如字节Coze、腾讯元器、OpenAI GPTs等，支持通过拖拉拽设计工作流实现一个AI工具的搭建，但这些平台都是大厂的商业应用，你只能在它的平台里搭建和使用，无法离线部署，缺乏应用的灵活性和数据安全性。
2025实战指南：基于VMware 17与Linux的Dify私有化部署——从零构建企业级AI开发平台
weixin_46150516的博客
02-25 910
​实战AI大模型的dify项目详细流程。
Ubnutu20.04安装Docker
m0_49672766的博客
10-21 1062
1 sudo apt-get remove docker docker-engine docker.io containerd runc 2 sudo apt-get update 3 sudo apt-get install \ apt-transport-https \ ca-certificates \ curl \ gnupg-agent \ software-properties-common 4 curl -fsSL https://downlo
1、ollama安装AI大模型
m0_63008237的博客
02-26 260
ollama安装deepseek-r1大模型
Dify+Ollama实现本地化部署DeepSeek
最新发布
milk_yan的博客
06-04 1280
本文给大家介绍如何通过Ollama部署本地大模型，Dify如何接入Ollama部署的本地大模型。
Ollama + DeepSeek + Dify私有化部署自己的AI Agent
rosten的专栏
04-12 993
（注意：这里面所用到模型都是API调用的，因为我电脑硬件不足的原因，7b模型没有那么的智能，所以我只能用服务提供者调用满血版的deepseek-r1模型来回答问题，另外，因为deepseek模型不支持解析图片，所以图片识别用的是Qwen-QVQ-72b的模型，它是可以解析图片的）这里我上传一个员工管理手册，点击下一步，进入配置界面，注意：这里我是提前下载好了一个Text Embedding的模型，所以索引方式这里才能选择，如果没有此类模型，这里是禁止选择的，需要去下载一个，如果用厂商的API服务也可以。
【Docker】Dify+ollama+deepseek（打造本地私有化大模型）
qq_34761385的博客
02-28 2022
最近很流行私有化部署dp，之前已经尝试过ollama+webui+deepseek本地化部署，但是体验感官上不是很多，特别卡顿。然后今天突然了解到Dify，也支持私有化部署大模型。而且似乎功能更加强大，那不得实操一下啊。
2024私有化部署开源大模型，让每个人都拥有一个私人AI助理
ytt0523_com的博客
06-25 1147
在数字化时代，人工智能技术的应用变得越来越普及，尤其是在数据处理和信息管理领域。随着深度学习技术的快速发展，各种AI模型如雨后春笋般地涌现。但对于一些涉及敏感数据和严格隐私要求的领域，如何在保护数据隐私的前提下，充分利用AI技术的强大能力，是一个难题。私有化部署的本地AI大模型因此应运而生，并成为解决这一问题的理想选择。在2024年，OLlama——一款新的、开源的私有化部署AI大模型——正引起业内的广泛关注。Ollama支持几十种不同的模型，能够满足多样化的业务需求。
Dify添加ollama插件
sazass的博客
04-12 3298
dify安装完成后，网页输入：http://localhost/install。然后选择"模型供应商"，待配置中已经存在ollama。然后选择"模型供应商"，然后选择dify市场。安装完成后，点击右上角头像，选择"设置"3. dify市场搜索ollama。点击下拉菜单，然后选择本地插件按钮。2.点击右上角头像，选择"设置"选择下载图标，不用选择安装图标。选择之前下载好的插件。
dify搭建智能写作助手工作流
03-20
<think>好的，我现在需要帮助用户了解如何使用Dify搭建智能写作助手的工作流程。根据用户提供的引用资料，特别是引用[3]和[4]，他们提到了使用Dify和DeepSeek进行本地私有部署的步骤。首先，我需要整理这些步骤，确保符合用户的要求，比如结构清晰、分步说明，并且正确引用相关来源。 首先，用户的问题是关于构建智能写作助手的工作流，所以重点应该放在Dify的配置、模型集成以及工作流设计上。引用[4]提到了安装Git和Docker、克隆Dify源码、Docker部署、配置DeepSeek模型、工作流设计等步骤。我需要将这些步骤详细展开，同时结合引用[2]中关于智能助手的定义，说明如何利用LLM的推理能力进行任务拆解和工具调用。 接下来，我需要确保回答中的技术细节准确无误。例如，Docker部署的具体命令、环境变量的配置，以及如何将DeepSeek的API密钥或本地模型路径集成到Dify中。同时，用户可能关心如何设计写作工作流，比如生成大纲、草稿、润色等步骤，这些都需要在Dify的工作流界面中进行可视化配置，可能需要引用[2]提到的目标规划和工具调用。 另外，用户可能还需要知道软硬件的要求，如引用[4]提到的至少16GB内存和NVIDIA GPU，这对于本地部署来说很重要。同时，要提醒用户如果使用云端DeepSeek API，需要注意网络连接和API调用限制。 在组织回答时，需要分步骤进行，每一步都简明扼要，并且自然地添加引用标记。例如，在安装Git和Docker的部分引用[4]，在配置模型的部分引用[3]和[4]。同时，生成的相关问题需要围绕用户可能进一步关心的点，比如性能优化、扩展功能或具体应用场景。 最后，检查是否符合系统级指令：使用正确的中文回答，数学公式的格式（虽然这个问题可能不涉及数学公式，但需要注意其他格式如代码块），以及引用标识的正确位置。确保回答中没有使用Markdown，段落清晰，代码示例正确。</think>### 分步教程：使用Dify搭建智能写作助手工作流 #### 一、环境准备 1. **安装Git和Docker** - Git用于代码仓库管理，Docker用于容器化部署。 - 参考命令（Linux系统）： ```bash sudo apt-get update && sudo apt-get install -y git docker.io ``` - 验证安装：`git --version` 和 `docker --version`[^4]。 2. **硬件要求** - 本地部署需至少16GB内存，推荐使用NVIDIA GPU（若需加速推理）。 #### 二、部署Dify 1. **克隆源码并启动容器** ```bash git clone https://github.com/langgenius/dify cd dify/docker && docker compose up -d ``` - 部署完成后访问 `http://localhost` 进入Dify控制台。 2. **配置DeepSeek模型** - **本地模型**：将DeepSeek模型文件放入指定目录，修改`model_path`环境变量指向模型路径[^3]。 - **API模式**：在Dify的模型设置中添加DeepSeek API密钥，选择模型版本（如`deepseek-chat`）[^4]。 - 环境变量示例： ```bash # 本地模型配置 MODEL_TYPE=llama MODEL_PATH=/path/to/deepseek-model ``` #### 三、设计写作工作流 1. **定义目标与任务拆解** - 示例流程：`用户输入主题 → 生成大纲 → 撰写草稿 → 润色优化 → 输出终稿`。 - 每个节点调用DeepSeek模型，通过条件判断控制流程（如是否需多次修改）[^2]。 2. **工具调用配置** - 使用Dify的“代码工具”节点实现以下功能： - **关键词提取**：从用户输入中提取核心主题。 - **格式检查**：验证终稿是否符合Markdown/HTML规范。 - 代码示例（润色节点逻辑）： ```python def polish_draft(text): # 调用DeepSeek模型进行润色 prompt = f"请优化以下文本的语言流畅性和逻辑结构：{text}" return deepseek.generate(prompt, temperature=0.7) ``` 3. **工作流可视化配置** - 在Dify界面拖拽节点，按顺序连接：`输入 → 大纲生成 → 草稿生成 → 循环润色 → 输出`。 - 设置循环条件（如当`用户满意度 < 80%`时返回润色节点）。 #### 四、测试与优化 1. **输入样例测试** - 输入：“写一篇关于AI伦理的科普文章” - 观察输出是否符合大纲-草稿-终稿的分阶段生成逻辑。 2. **性能调优** - 调整模型参数：降低`temperature`值（如0.3）增强确定性，减少随机性[^1]。 - 缓存中间结果：对大纲生成环节启用缓存，减少重复计算。 #### 五、高级功能扩展 1. **多模态支持** - 插入“图片生成”节点，调用Stable Diffusion生成配图（需额外集成对应API）。 - 条件分支：仅当用户选择“图文并茂”模式时触发该节点。 2. **本地知识库增强** - 上传专业文献到Dify知识库，设置写作时优先检索相关术语定义。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值