Linux系统离线安装ollama【详细版】

前期准备

先下载好ollama安装包：ollama-linux-amd64.tgz
放入系统中
我的测试系统为：麒麟服务器操作系统V10 SP3 2403

安装

sudo tar -C /usr -xzvf ollama-linux-amd64.tgz //解压到目录

ollama serve //运行测试

以上为启动成功

启动失败

启动失败会出现：ollama: /usr/lib64/libstdc++.so.6: version `GLIBCXX_3.4.25‘ not found (required by ollama)

解决缺少GLIBCXX_3.4.25的问题

解决方法我写有文章：ollama: /usr/lib64/libstdc++.so.6: version `GLIBCXX_3.4.25‘ not found (required by ollama)

创建自动启动ollama

vim  /etc/systemd/system/ollama.service

填入

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="OLLAMA_HOST=0.0.0.0"
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin"

[Install]
WantedBy=default.target

执行命令做开机自启

sudo systemctl daemon-reload
systemctl start ollama
systemctl enable ollama

这样就设置成功了

测试

测试下载deepseek-r1:70b没问题