【快捷部署】016_Ollama（CPU only版）

📣【快捷部署系列】016期信息

编号	选型	版本	操作系统	部署形式	部署模式	复检时间
016	Ollama（CPU only）	latest	CentOS 7.X	Docker	单机	2024-04-10

注意事项：
1、目前镜像及大模型下载速度尚可，但由于容量较大，所以建议使用100Mbit/s以上的带宽。
2、2个容器镜像大小约为4G左右，大模型采用Gemma:9B，大约4.7G。
3、Ollama启动方式采用CPU only，由于没有GPU，所以运行速度较慢，建议采用16核以上的服务器。
4、为了降低入门体验门槛，所以规避掉了对于硬件GPU的要求，如想“顺滑”体验，还请使用带GPU的基础设施。
5、脚本部署过程，控制台会提示，输入内网IP地址，输入后才会继续执行，切勿一直等待。
6、本文脚本不适用于带GPU的设备，如有需要，请参见官网或关注后续博文。

一、快捷部署

#!/bin/bash
#################################################################################
# 作者：cxy@toctalk@hwy 2024-04-09                                                 
# 功能：自动部署Ollama（Docker方式） 
# 说明：如果已安装了Docker，请注释掉 install_docker，避免重复安装                                                                 
#################################################################################

info()