离线服务器ollama新增qwen2:0.5b模型

离线服务器ollama新增qwen2:0.5b模型

Dify集成ollama前面已经介绍过离线服务器CentOS使用的docker安装的ollama,其中在ollama中已经安装了deepseek-r1:1.5b。目前的需求是需要再安装一个qwen2:0.5b的模型,那么如何安装呢?

1.首先在有网的服务器上下载qwen2:0.5b模型(前提:ollama已经在docker中运行了)

docker exec ollama ollama run qwen2:0.5b

2.验证是否下载成功

docker exec ollama ollama list

成功则会显示qwen2:0.5b
在这里插入图片描述

3.在外网服务器(有网络的服务器)上导出模型,得到qwen2-0.5b.tar.gz

docker exec ollama tar -cvzf /root/qwen2-0.5b.tar.gz -C /root/.ollama/models blobs manifests
docker cp ollama:/root/qwen2-0.5b.tar.gz ./

qwen2-0.5b.tar.gz传输到离线服务器上。

4.在离线服务器上执行备份操作,防止之前安装的deepseek-r1:1.5b被覆盖而无法还原

cp -r /root/.ollama/models /root/.ollama/models_backup

5.在无网服务器上解压(增量合并,而不是覆盖)

/root/qwen2-0.5b.tar.gz是安装包所在位置

tar -xvzf /root/qwen2-0.5b.tar.gz -C /root/.ollama/models

6.重启 Ollama 并检查模型

docker restart ollama
docker exec ollama ollama list

成功则会看到 qwen2:0.5bdeepseek-r1:1.5b都在列表中。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值