本地部署 DeepSeek 模型的详细教程

本地部署 DeepSeek 模型的详细教程

---

一、环境准备

硬件要求

• 最低配置
  • CPU：支持 AVX2 指令集（加速矩阵运算，提升推理效率）
  • 内存：16GB（确保基础模型加载）
  • 存储：30GB 可用空间（模型文件 + 依赖库）
• 推荐配置
  • GPU：NVIDIA RTX 3090 或更高（支持 FP16/INT8 加速，显存 ≥24GB）
  • 内存：32GB+（支持更大模型或并行任务）
  • 存储：64GB+（适配多模型或长期使用）

软件环境

• 操作系统
  • Windows 10/11（64 位）
  • macOS 10.15+（需 Rosetta 2 兼容）
  • Linux（Ubuntu 20.04+/CentOS 7+，需 glibc ≥2.17）
• 依赖项
  • Python 3.8+（推荐使用 Anaconda 管理环境）
  • PyTorch 2.0+（GPU 版需 CUDA 11.8+ 和 cuDNN 8.6+）
  • Docker（可选，用于容器化部署）

---

二、安装步骤

1. 安装 Ollama

• 官网下载
  访问 Ollama 官网，选择对应系统的安装包：
  • Windows/macOS：直接下载安装程序。
  • Linux：使用命令行安装：

    curl -fsSL https://ollama.com/install.sh | sh
    

• 网络问题处理
  中国大陆用户若访问 GitHub 缓慢ÿ