目录
ollama架构图
Ollama 是一个用于构建、运行和管理机器学习模型的开源平台,支持多种模型框架和工具。通过 Docker 部署 Ollama,可以快速搭建一个高效、隔离的运行环境。本文将详细介绍如何在 Docker 中安装、运行、配置及卸载 Ollama。
一、安装 Docker
在安装 Ollama 之前,需要先安装 Docker。以下是基于 Linux 系统的 Docker 安装步骤:
1. 更新系统
运行以下命令更新系统包:
sudo yum update -y
2. 安装 Docker
添加 Docker 的官方仓库并安装 Docker:
sudo yum install -y yum-utils
sudo yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo
sudo yum install -y docker-ce docker-ce-cli containerd.io
3. 启动 Docker 服务
sudo systemctl start docker
sudo systemctl enable docker
4. 验证安装
运行以下命令验证 Docker 是否安装成功:
docker --version
docker run hello-world
二、运行 Ollama
1. 拉取 Ollama 镜像
Ollama 提供了官方 Docker 镜像,可以直接从 Docker Hub 拉取:
docker pull ollama/ollama:latest
2. 启动 Ollama 容器
运行以下命令启动 Ollama 容器:
docker run -d --name ollama -p 11434:11434 ollama/ollama:latest
-
-d表示后台运行。 -
-p 11434:11434将容器的 11434 端口映射到宿主机的 11434 端口。
3. 验证 Ollama 是否运行
访问 http://localhost:11434,如果看到 Ollama 的 Web 界面,说明安装成功。
三、配置 Ollama
1. 配置国内镜像源
如果需要使用国内镜像源加速 Ollama 的模型下载,可以配置 Docker 的 daemon.json 文件:
{
"registry-mirrors": [
"https://docker.m.daocloud.io",
"https://docker.1panel.live",
"https://hub-mirror.c.163.com"
]
}
将上述内容保存到 /etc/docker/daemon.json 文件中,然后重启 Docker 服务:
sudo systemctl daemon-reload
sudo systemctl restart docker
2. 配置 Ollama 环境变量
如果需要配置 Ollama 的环境变量,可以在启动容器时通过 -e 参数指定。例如:
docker run -d --name ollama -p 11434:11434 -e OLLAMA_MODEL="llama2" ollama/ollama:latest
四、卸载 Ollama
1. 停止并删除 Ollama 容器
docker stop ollama
docker rm ollama
2. 删除 Ollama 镜像(可选)
如果不再需要 Ollama 镜像,可以删除它:
docker rmi ollama/ollama:latest
3. 清理相关数据
如果 Ollama 使用了数据卷,可以通过以下命令清理:
docker volume prune
五、总结
通过本文的介绍,你已经掌握了如何在 Docker 中安装、运行、配置及卸载 Ollama。Ollama 提供了强大的机器学习模型管理功能,结合 Docker 的隔离性,可以快速搭建高效、稳定的运行环境。希望本文能帮助你更好地使用 Ollama。


最低0.47元/天 解锁文章
2万+

被折叠的 条评论
为什么被折叠?



