一、下载Ollama并安装
1.官网地址:
https://ollama.com/download
下载方式:
(1)直接通过官方给出的下载方式会比较慢,容易出现下载异常
Windows可以复制下载地址到迅雷下载
linux下载官方给的是
curl -fsSL https://ollama.com/install.sh | sh
下载速度也是慢
通过官方文档https://github.com/ollama/ollama/blob/main/docs/linux.md选择手动下载
同理直接把地址粘贴到迅雷里面下载
https://ollama.com/download/ollama-linux-amd64.tgz
注意:如果是arm64
请下载https://ollama.com/download/ollama-linux-arm64.tgz
如何区分:linux输入lscpu
ARMv8 = ARM64 = AArch64
ARMv7 = armv7l = ARM
x86_64 = x64 = amd64
x86 = x86_32
3.部署ollama
(1)解压缩:
tar -C /usr -xzf ollama-linux-amd64-rocm.tgz
如果不默认安装/usr的话需要改配置,如何配置自行查找
(2)查看是否安装成功
启动ollama
ollama serve
测试是否启动成功
curl 127.0.0.1:11434 显示Ollama is running代表成功
4.安装deepseek r1
(1)查看服务器最高能装多大的deepseek-r1
(2)挑选要下载的模型
仓库地址:https://ollama.com/library