使用Ollama本地部署DeepSeek-R1大模型

引言

DeepSeek-R1是由中国的深度求索(DeepSeek)公司开发的大模型，用低成本以及更小的算力规模实现了美国顶级AI模型的效果。

DeepSeek已遵循MIT协议实现了开源，本文介绍使用百度智能云GPU服务器来实现DeepSeek的本地部署。

模型部署

安装环境

硬件环境

• 百度智能云 GPU 服务器。

计算型 GN5 服务器， 推荐最低配置 16 核 CPU，64GB 内存，Nvidia Tesla A10 单卡 24G显存，搭配 100GB SSD 数据盘， 安装 Windows Server 2022系统 。

• 如果您使用自己的环境部署

建议 NVIDIA GPU，民用卡 30、40 系列，商用卡 T4、V100、A10 等系列，至少8G以上显存。服务器配置建议最低配置为 8 核 32 G 100G 磁盘，5M 带宽。

软件环境

• Ollama 0.5.7或更高版本

• ChatBox 1.9.8或更高版本

• Windows Server 2022或更高版本

• Nvidia驱动版本572.13， CUDA工具版本12.8 或更高版本

安装步骤

购买服务器

1. 登录控制台，按需购买