企业内部可能有些数据比较敏感,不能连接互联网。使用deepseek来提高工作效率,这个时候你可以利用ollama在内网本地部署来实现。
本实验是先在自己电脑上用虚拟机部署好,再用U盘把虚拟机文件复制到内网去。
一、使用VMware新建WIN2022虚拟机
(本步骤省略)
二、使用ollama部署本地LLM模型
- 下载ollama
官网https://ollama.com/下载自已电脑对应的ollama 版本。
下载太慢的请看这里,我用移动的宽带下特别快
两个文件下到同一目录,用360解压缩
https://download.youkuaiyun.com/download/xzzteach/90571904
https://download.youkuaiyun.com/download/xzzteach/90571885
- 安装ollama
注意:
Ollama安装包默认只能安装到C盘,Ollama本身大概会占用4GB左右;
如果大家都C盘空间充足的话可以直接双击打开安装包点击安装即可;
建议将Ollama安装包放到想要安装的路径下,本实验安装在 D:\Ollama
- 在安装文件目录中进入CMD
2. 输入安装指令
OllamaSetup.exe /DIR=D:\Ollama
- 本地部署DeepSeek
选择模型并下载
打开Ollama官网,点击顶部的Models链接,此时我们就会看到deepseek-r1模型排在第一位,如下图所示:
这里以14B模型为例(推荐使用移动宽带这样下载快一些)
ollama run deepseek-r1:14b
4. 搭建个人知识库
输入指令
ollama pull shaw/dmeta-embedding-zh
- 安装python3.11
https://download.youkuaiyun.com/download/xzzteach/90572963 - 安装Open WebUI
pip install open-webui -i https://mirrors.aliyun.com/pypi/simple/
- 启动Open WebUI
open-webui serve
启动后,你可以通过访问 http://localhost:8080
来访问 Open WebUI 的 Web 界面,如果需要其他电脑访问,将以上localhost改为服务器IP地址。
首次访问 Open WebUI 时,你将会看到一个登录界面。在这个界面上,你需要创建一个管理员账号。输入必要的信息后,你将能够访问管理员面板,进行模型管理和 API 配置。
在管理员面板中,你需要配置 Ollama 的 API。点击相应的设置选项,输入你安装 Ollama 时生成的 API 地址和密钥。确保配置正确,这样 Open WebUI 才能成功连接到 Ollama 并调用 Deepseek-R1-14b 模型进行推理。
二、将C盘知识库存入D盘
C:\Users\Administrator\AppData\Roaming\CherryStudio
链接至D:\CherryStudio
将C:\Users\Administrator\AppData\Roaming\CherryStudio整个目录剪切至D盘
输入如下命令
mklink /D "C:\Users\Administrator\AppData\Roaming\CherryStudio" "D:\CherryStudio"