服务端部署deepseek

docker部署

参考:Docker 部署文档 – Ollama

  • 先保证自己的环境里,有docker了
  • ​创建一个 Docker 卷 (使用挂在卷,即使容器被删除,模型数据仍然会保留在主机上):
  • docker volume create ollama_models

  • 运行 Ollama 容器并挂载卷(我这里因为11434端口被占用了,改为11435):
  • 将ollama镜像以端口11435 使用ollama_models文件为挂在卷,支持外网访问api,搭载名为ollama的容器
    docker run -d -v ollama:/root/.ollama -p 11435:11434 -v ollama_models:/models -e OLLAMA_HOST=0.0.0.0 --name ollama ollama/ollama

  • 如果遇到网络连接问题,参考下一篇文章
  • docker exec -it ollama ollama run deep
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值