Linux系统离线安装ollama【详细版】

mzak

已于 2025-03-27 00:26:32 修改

阅读量669

点赞数 10

文章标签： linux ollama AI gcc deepseek

于 2025-03-26 23:56:41 首次发布

本文链接：https://blog.youkuaiyun.com/mizhiakk/article/details/146544338

版权

前期准备

先下载好ollama安装包：ollama-linux-amd64.tgz
放入系统中
我的测试系统为：麒麟服务器操作系统V10 SP3 2403
在这里插入图片描述

安装

sudo tar -C /usr -xzvf ollama-linux-amd64.tgz //解压到目录

ollama serve //运行测试

在这里插入图片描述
以上为启动成功

启动失败

在这里插入图片描述
启动失败会出现：ollama: /usr/lib64/libstdc++.so.6: version `GLIBCXX_3.4.25‘ not found (required by ollama)

解决缺少GLIBCXX_3.4.25的问题

解决方法我写有文章：ollama: /usr/lib64/libstdc++.so.6: version `GLIBCXX_3.4.25‘ not found (required by ollama)

创建自动启动ollama

vim  /etc/systemd/system/ollama.service

填入

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="OLLAMA_HOST=0.0.0.0"
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin"

[Install]
WantedBy=default.target

执行命令做开机自启

sudo systemctl daemon-reload
systemctl start ollama
systemctl enable ollama

在这里插入图片描述
这样就设置成功了

测试

在这里插入图片描述
测试下载deepseek-r1:70b没问题