【快捷部署】018_Ollama（GPU版）

OllamaGPUDocker部署教程：CentOS7环境下快速部署指南

最新推荐文章于 2025-10-03 15:06:53 发布

原创

最新推荐文章于 2025-10-03 15:06:53 发布 · 8k 阅读

17 ·

CC 4.0 BY-SA版权

文章标签：

#AI #语言模型 #人工智能 #淘客科技

本文介绍了如何在华为云服务器上使用Docker部署OllamaGPU版本，包括安装Docker、配置NVIDIA容器工具、部署Ollama和open-webui，以及提供入门体验和资源监控的步骤。

📣【快捷部署系列】018期信息

编号	选型	版本	操作系统	部署形式	部署模式	复检时间
018	Ollama（GPU）	latest	CentOS 7.X	Docker	单机	2024-04-09

注意事项：
1、目前镜像及大模型下载速度尚可，但由于容量较大，所以建议使用100Mbit/s以上的带宽。
2、2个容器镜像大小约为4G左右，为了加快部署速度，模型采用的是较小的qwen:0.5b。
3、脚本部署过程，控制台会提示，输入内网IP地址，输入后才会继续执行，切勿一直等待。

本次采用华为云服务器，感谢淘客科技提供的实验资源环境。具体配置见上图。

一、快捷部署

#!/bin/bash
#################################################################################
# 作者：cxy@toctalk@hwy 2024-04-09                                                 
# 功能：自动部署Ollama（Docker方式，GPU） 
# 说明：如果已安装了Docker，请注释掉 install_docker，避免重复安装                                                                 
#################################################################################

info(){
   
   
  echo -e "\033[34m 【