Ollama本地部署
- 自动安装
通过运行命令来安装Ollama:
curl -fsSL https://ollama.com/install.sh | sh
- 手动安装
(1). 下载ollama二进制文件
Ollama被分发为一个独立的二进制文件。将其下载到您的PATH目录中:
sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/bin/ollama
sudo chmod +x /usr/bin/ollama
(2). 配置ollama用户将Ollama添加为启动服务
为Ollama创建一个用户:
sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama
手写服务文件:
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
[Install]
WantedBy=default.target
转入服务更改并启动:
sudo systemctl daemon-reload
sudo systemctl enable ollama
- 启动与删除ollama服务:
启动服务:
sudo systemctl start ollama
删除服务:
sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service
</