Docker安装、运行、配置及卸载Ollama的详细教程

目录

一、安装 Docker

1. 更新系统

2. 安装 Docker

3. 启动 Docker 服务

4. 验证安装

二、运行 Ollama

1. 拉取 Ollama 镜像

2. 启动 Ollama 容器

3. 验证 Ollama 是否运行

三、配置 Ollama

1. 配置国内镜像源

2. 配置 Ollama 环境变量

四、卸载 Ollama

1. 停止并删除 Ollama 容器

2. 删除 Ollama 镜像(可选)

3. 清理相关数据

五、总结

参考链接


 ollama架构图


Ollama 是一个用于构建、运行和管理机器学习模型的开源平台,支持多种模型框架和工具。通过 Docker 部署 Ollama,可以快速搭建一个高效、隔离的运行环境。本文将详细介绍如何在 Docker 中安装、运行、配置及卸载 Ollama。


一、安装 Docker

在安装 Ollama 之前,需要先安装 Docker。以下是基于 Linux 系统的 Docker 安装步骤:

1. 更新系统

运行以下命令更新系统包:

sudo yum update -y
2. 安装 Docker

添加 Docker 的官方仓库并安装 Docker:

sudo yum install -y yum-utils
sudo yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo
sudo yum install -y docker-ce docker-ce-cli containerd.io
3. 启动 Docker 服务
sudo systemctl start docker
sudo systemctl enable docker
4. 验证安装

运行以下命令验证 Docker 是否安装成功:

docker --version
docker run hello-world

二、运行 Ollama

1. 拉取 Ollama 镜像

Ollama 提供了官方 Docker 镜像,可以直接从 Docker Hub 拉取:

docker pull ollama/ollama:latest
2. 启动 Ollama 容器

运行以下命令启动 Ollama 容器:

docker run -d --name ollama -p 11434:11434 ollama/ollama:latest
  • -d 表示后台运行。

  • -p 11434:11434 将容器的 11434 端口映射到宿主机的 11434 端口。

3. 验证 Ollama 是否运行

访问 http://localhost:11434,如果看到 Ollama 的 Web 界面,说明安装成功。


三、配置 Ollama

1. 配置国内镜像源

如果需要使用国内镜像源加速 Ollama 的模型下载,可以配置 Docker 的 daemon.json 文件:

{
  "registry-mirrors": [
    "https://docker.m.daocloud.io",
    "https://docker.1panel.live",
    "https://hub-mirror.c.163.com"
  ]
}

将上述内容保存到 /etc/docker/daemon.json 文件中,然后重启 Docker 服务:

sudo systemctl daemon-reload
sudo systemctl restart docker
2. 配置 Ollama 环境变量

如果需要配置 Ollama 的环境变量,可以在启动容器时通过 -e 参数指定。例如:

docker run -d --name ollama -p 11434:11434 -e OLLAMA_MODEL="llama2" ollama/ollama:latest

四、卸载 Ollama

1. 停止并删除 Ollama 容器
docker stop ollama
docker rm ollama
2. 删除 Ollama 镜像(可选)

如果不再需要 Ollama 镜像,可以删除它:

docker rmi ollama/ollama:latest
3. 清理相关数据

如果 Ollama 使用了数据卷,可以通过以下命令清理:

docker volume prune

五、总结

通过本文的介绍,你已经掌握了如何在 Docker 中安装、运行、配置及卸载 Ollama。Ollama 提供了强大的机器学习模型管理功能,结合 Docker 的隔离性,可以快速搭建高效、稳定的运行环境。希望本文能帮助你更好地使用 Ollama。


参考链接

Docker安装与完全卸载(这一篇绝对够用)_docker完全卸载重装-优快云博客

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

CarlowZJ

我的文章对你有用的话,可以支持

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值