Deepseek的火热,也想着在自己电脑上部署试试。
一:安装
curl -fsSL https://ollama.com/install.sh | sh
直接运行该条指令就可以安装成功了(偶尔会因为网络问题而安装失败,可多试几次)。
安装完成后,可输入 ollama -v 验证是否安装成功。
二、下载模型
进入官网:Ollama
以上标出了支持的一些模型,如:Llama3.3,DeepSeek-R1等,直接点击DeepSeek-R1会进入到相应的模型介绍界面。
里面的模型有1.5b,7b,8b....数字越大模型的包也越大,对于电脑的性能需求也越大。
只需在终端中输入ollama run deepseek-r1:【模型】,就会进行下载了。如下:
模型下载完成后,可输入 ollama list 查看本地已有的模型:
三:运行
第二步骤完成后,就可以来运行deepseek模型了:
四:修改model的存储路径
ollama的默认存储模型的路径是:/usr/share/ollama/.ollama/models,更换存储路径的方法。
4.1:创建新的路径
在/home/ut18下新建新的文件夹newollama,并在newollama文件夹中创建models文件夹。
改变models文件夹的用户和组为ollama:
cd /home/ut18/newollama
sudo chown ollama:ollama models
4.2:修改启动服务的存储路径
在终端中输入:sudo gedit /etc/systemd/system/ollama.service 会打开配置文件。
在上面新增加一行Environments="OLLAMA_MODELS=/home/ut18/newollama/models"
然后保存退出。
接着终端中输入:
systemctl daemon-reload
systemctl restart ollama //重启ollama
systemctl status ollama //查看状态
如上图所示时,表示模型存储路径成功了。
4.3:异常情况
当更改路径为/media/ut18/***时出现了code=exited,status=1/FAILURE。
五:模型的迁移
在window系统下有 deepseek-r1:8b的模型,直接下载又耗时,那就直接迁移到ubuntu下。
5.1:拷贝window系统下的模型
window系统下的模型路径默认为C://Users/用户名/.ollama/models下,拷贝blobs/下的deepseek-r1:8b模型文件和manifests/registry.ollama.ai/library/deepseek-r1/8b文件到ubuntu下的ollama存储路径下
5.2:更改模型的用户和组名以及权限
类似如下操作修改两处的文件权限和用户及组名
sudo chown ollama:ollama 8b
sudo chmod 755 8b
所有拷贝的文件都进行操作后,可通过ollama list来查看迁移情况:
迁移前:
迁移后:
可看到迁移成功了,接下来运行下迁移过来的模型是否可正常使用。