MaxKb/open-webui+Ollama运行模型

0. 准备：虚拟机：centos7

1. 安装Docker：首先，需要安装Docker，因为Ollama和MaxKB都建议基于Docker容器运行。使用以下命令安装Docker：

sudo yum install -y yum-utils device-mapper-persistent-data lvm2
sudo yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
sudo yum install docker-ce docker-ce-cli containerd.io
sudo systemctl start docker
sudo systemctl enable docker
docker -v

2. 配置镜像源

vi /etc/docker/daemon.json

建议镜像源：

{
    "registry-mirrors" : [
    "https://docker.m.daocloud.io",
    "https://dockerproxy.com",
    "https://mirror.ccs.tencentyun.com"
  ]
}

3. 安装Ollama：Ollama用于在本地运行和部署大型语言模型（LLMs）的工具。使用以下命令安装Ollama：

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollam