linux deepseek-r1模型安装

最新推荐文章于 2025-05-23 09:27:58 发布

楠奕

最新推荐文章于 2025-05-23 09:27:58 发布

阅读量618

点赞数 4

分类专栏： bigData 文章标签： java 前端服务器

本文链接：https://blog.youkuaiyun.com/red_sky_blue/article/details/145617587

版权

安装ollama

将下载的离线包上传到主机上，解压到制定目录

配置service

vi /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/data/ollama/apps/ollama/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=$PATH"
#指定模型存储位置，可以直接在外网下载好模型，打包解压到内网的ollama的模型目录下，就能实现离线安装了
Environment="OLLAMA_MODELS=/data/ollama/apps/ollama/models"
#解决ollama无法访问的问题
Environment="OLLAMA_HOST=0.0.0.0:11434"

[Install]
WantedBy=default.target

启动ollama

[root@host ollama]# systemctl enable ollama
Created symlink from /etc/systemd/system/default.target.wants/ollama.service to /etc/systemd/system/ollama.se