如何部署 在 Linux 服务器上部署 Deepseek

在 Linux 服务器上部署 Deepseek 

1. 安装 Ollama：

   • 打开Ollama 官方网站 下载 Linux 版本。

   • 运行以下命令安装 Ollama：

     bash

     curl -fsSL https://ollama.com/install.sh | sh
     

   • 在 Service 中增加以下两行：

     bash

     Environment="OLLAMA_HOST=0.0.0.0"
     Environment="OLLAMA_ORIGINS=*"
     

   • 重启 Ollama 服务：

     bash

     systemctl daemon-reload
     systemctl restart ollama
     

2. 部署 Deepseek R1 模型：

   • 在 Ollama 官网上，选择 Deepseek R1 模型并运行以下命令：

     bash

     ollama run deepseek-r1:7b
     

3. 配置可视化界面：

   • 安装 Docker：

     bash

     wget http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
     yum install docker-ce-20.10.9-3.el7 docker-ce-cli-20.10.9-3.el7 containerd.io
     systemctl start docker
     systemctl status docker
     

   • 运行以下命令启动 Open WebUI：

     bash

     docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://192.168.47.136:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
     

4. 访问控制台：

   • 打开浏览器访问 http://192.168.47.136:3000，可以进行专属知识库的建立和管理。