公司内网部署离线deepseek本地模型实战

企业内部可能有些数据比较敏感，不能连接互联网。使用deepseek来提高工作效率，这个时候你可以利用ollama在内网本地部署来实现。

本实验是先在自己电脑上用虚拟机部署好，再用U盘把虚拟机文件复制到内网去。

一、使用VMware新建WIN2022虚拟机

（本步骤省略）

二、使用ollama部署本地LLM模型

1. 下载ollama
   官网https://ollama.com/下载自已电脑对应的ollama 版本。

下载太慢的请看这里，我用移动的宽带下特别快
两个文件下到同一目录，用360解压缩
https://download.youkuaiyun.com/download/xzzteach/90571904
https://download.youkuaiyun.com/download/xzzteach/90571885

2. 安装ollama

注意：
Ollama安装包默认只能安装到C盘，Ollama本身大概会占用4GB左右；
如果大家都C盘空间充足的话可以直接双击打开安装包点击安装即可；
建议将Ollama安装包放到想要安装的路径下，本实验安装在 D:\Ollama

1. 在安装文件目录中进入CMD

2. 输入安装指令

OllamaSetup.exe /DIR=D:\Ollama

3. 本地部署DeepSeek
   选择模型并下载
   打开Ollama官网，点击顶部的Models链接，此时我们就会看到deepseek-r1模型排在第一位，如下图所示：

这里以14B模型为例(推荐使用移动宽带这样下载快一些)

ollama run deepseek-r1:14b

4. 搭建个人知识库
输入指令

ollama pull shaw/dmeta-embedding-zh

5. 安装python3.11
   https://download.youkuaiyun.com/download/xzzteach/90572963
6. 安装Open WebUI

pip install open-webui -i https://mirrors.aliyun.com/pypi/simple/

7. 启动Open WebUI

open-webui serve

启动后，你可以通过访问 http://localhost:8080来访问 Open WebUI 的 Web 界面，如果需要其他电脑访问，将以上localhost改为服务器IP地址。

首次访问 Open WebUI 时，你将会看到一个登录界面。在这个界面上，你需要创建一个管理员账号。输入必要的信息后，你将能够访问管理员面板，进行模型管理和 API 配置。

在管理员面板中，你需要配置 Ollama 的 API。点击相应的设置选项，输入你安装 Ollama 时生成的 API 地址和密钥。确保配置正确，这样 Open WebUI 才能成功连接到 Ollama 并调用 Deepseek-R1-14b 模型进行推理。

二、将C盘知识库存入D盘

C:\Users\Administrator\AppData\Roaming\CherryStudio链接至D:\CherryStudio

将C:\Users\Administrator\AppData\Roaming\CherryStudio整个目录剪切至D盘

输入如下命令

mklink /D "C:\Users\Administrator\AppData\Roaming\CherryStudio" "D:\CherryStudio"