ollama+deepseek本地私域AI部署

安装ollama

ollama官网: https://ollama.com/

#linux服务器下载安装
curl -fsSL https://ollama.com/install.sh | sh

安装大模型

上面我们安装的是一个Ollama的框架，还是需要下载大模型：比如执行:
ollama run deepseek-r1:8b 或者 ollama run llama2 下载使用不同的模型
这里可以下载所有的模型 https://github.com/ollama/ollama

Ollama默认只允许127.0.0.1:11434访问，我们可以修改配置，让所有IP都可以访问。
修改文件：/etc/systemd/system/ollama.service

#在[Service]这块最下面新增
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"
#保存

重启Ollama服务

systemctl daemon-reload
systemctl enable ollama

Open WebUI 部署

/biodata/02.software/miniconda3/bin/conda create -n open-webui python=3.11
source /biodata/02.software/miniconda3/bin/activate open-webui
pip install open-webui -i https://pypi.doubanio.com/simple
nohup open-webui serve & # 需要先启动 Ollama 服务（确保 Ollama 已经在运行）

使用 Open WebUI

打开浏览器，访问http://192.168.0.247:8080/ （这里需要输入自己机器的ip地址），首次访问需要创建一个账户并登录。之后，就可以在 Open WebUI 界面中选择 DeepSeek 模型，输入问题或指令，点击 “发送” 按钮，开启与模型的精彩对话之旅。

通过以上步骤，你就成功地在本地搭建了一个由 Ollama、Open WebUI 和 DeepSeek 模型组成的 AI 交互平台。快来动手试试，感受本地 AI 交互的魅力！