linux deepseek-r1模型安装

楠奕

于 2025-02-13 18:10:26 发布

阅读量631

点赞数 4

CC 4.0 BY-SA版权

分类专栏： bigData 文章标签： java 前端服务器

本文链接：https://blog.youkuaiyun.com/red_sky_blue/article/details/145617587

安装ollama

将下载的离线包上传到主机上，解压到制定目录

配置service

vi /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/data/ollama/apps/ollama/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=$PATH"
#指定模型存储位置，可以直接在外网下载好模型，打包解压到内网的ollama的模型目录下，就能实现离线安装了
Environment="OLLAMA_MODELS=/data/ollama/apps/ollama/models"
#解决ollama无法访问的问题
Environment="OLLAMA_HOST=0.0.0.0:11434"

[Install]
WantedBy=default.target

启动ollama

[root@host ollama]# systemctl enable ollama
Created symlink from /etc/systemd/system/default.target.wants/ollama.service to /etc/systemd/system/ollama.service.
[root@host ollama]# systemctl start ollama
[root@host ollama]# systemctl status ollama
● ollama.service - O