DeepSeek 模型的本地部署指南

原创已于 2025-02-10 18:39:29 修改 · 2.3k 阅读

CC 4.0 BY-SA版权

文章标签：

于 2025-02-10 18:36:44 首次发布

1 篇文章

订阅专栏

DeepSeek 是一个基于深度学习的强大模型，在自然语言处理和生成任务中表现出色。如果你希望在自己的环境中运行 DeepSeek，可以通过本地部署实现这一目标。本文将介绍如何在 Windows、Linux 和 macOS 系统上成功部署 DeepSeek。

确保你的计算机具备以下硬件要求：

从 DeepSeek 官方网站或相关开源仓库下载 DeepSeek 的预训练模型文件。确保选择适合你系统架构的模型版本（如 LLaMA-7B、Alpaca-7B 等）。

下载 DeepSeek 模型文件
- 使用浏览器直接下载 DeepSeek 的模型文件（如 .pt 或 .bin 文件）。
- 将文件保存在 C:\DeepSeek 模型目录下。
安装 Python 和 PyTorch
- 打开命令提示符，执行以下命令安装所需的 Python 包：
```
pip install torch torchvision torchaudio
```
配置环境变量
- 打开 .bashrc 或 .config/accessories/.bashrc 文件（根据你的系统）。
- 添加以下内容，将路径调整为你的模型文件所在目录：
```
export PYTHONPATH=$PYTHONPATH:./DeepSeek/
```
运行 DeepSeek
- 打开命令提示符，切换到部署目录：
```
cd C:\DeepSeek\model
```
- 运行模型文件：
```
./run DeepSeek.lm
```
- 按回车键后，DeepSeek 将开始运行。
使用 DeepSeek
- 在交互式终端中输入以下命令启动 DeepSeek：
```
dsenter --model deepseek-7b
```
- 使用键盘输入指令，按 Enter 键执行。

下载 DeepSeek 模型文件
- 使用浏览器下载模型文件，并将其解压到 /path/to/DeepSeek 目录下。
安装 Python 和 PyTorch
- 执行以下命令安装必要的 Python 包：
```
sudo apt-get install python3-dev libtorch0-dev
```
配置环境变量
- 编辑 /etc/profile 或 .profile 文件（根据你的系统）。
- 添加以下内容，将路径调整为你的模型文件所在目录：
```
export PYTHONPATH=$PYTHONPATH:/path/to/DeepSeek/
```
运行 DeepSeek
- 切换到部署目录：
```
cd /path/to/DeepSeek/model
```
- 运行模型文件：
```
./run DeepSeek.lm
```
使用 DeepSeek
- 在交互式终端中输入以下命令启动 DeepSeek：
```
dsenter --model deepseek-7b
```
- 使用键盘输入指令，按 Enter 键执行。

下载 DeepSeek 模型文件
- 使用浏览器下载模型文件，并将其解压到 /path/to/DeepSeek 目录下。
安装 Python 和 PyTorch
- 执行以下命令安装必要的 Python 包：
```
brew install python3 pytorch-cuda --USE-LIB
```
配置环境变量
- 编辑 ~/.bashrc 文件。
- 添加以下内容，将路径调整为你的模型文件所在目录：
```
export PYTHONPATH=$PYTHONPATH:/path/to/DeepSeek/
```
运行 DeepSeek
- 切换到部署目录：
```
cd /path/to/DeepSeek/model
```
- 运行模型文件：
```
./run DeepSeek.lm
```
使用 DeepSeek
- 在交互式终端中输入以下命令启动 DeepSeek：
```
dsenter --model deepseek-7b
```
- 使用键盘输入指令，按 Enter 键执行。