你的RTX 4090终于有用了！保姆级教程，5分钟在本地跑起DeepSeek-Prover-V2-671B，效果惊人...

你的RTX 4090终于有用了！保姆级教程，5分钟在本地跑起DeepSeek-Prover-V2-671B，效果惊人

【免费下载链接】DeepSeek-Prover-V2-671B 项目地址: https://gitcode.com/hf_mirrors/deepseek-ai/DeepSeek-Prover-V2-671B

写在前面：硬件门槛

[重要警告]：在官方文档中未能找到明确的最低硬件要求。对于此类模型，通常需要较大的GPU显存。请在投入资源前，务必访问模型的官方项目主页或社区，以获取最准确的配置信息，避免不必要的硬件投资。

环境准备清单

在开始之前，请确保你的系统满足以下要求：

• 操作系统：推荐使用 Linux（如 Ubuntu 20.04 或更高版本）。
• Python：版本 3.8 或更高。
• PyTorch：版本 2.0 或更高，支持 CUDA。
• CUDA：版本 11.7 或更高。
• 其他依赖：transformers、torch、accelerate 等。

模型资源获取

你可以通过以下方式获取模型：

1. 使用 huggingface-cli 下载：

   huggingface-cli download deepseek-ai/DeepSeek-Prover-V2-671B --local-dir ./DeepSeek-Prover-V2-671B
   

2. 手动下载并解压到本地目录。

逐行解析“Hello World”代码

以下是官方提供的快速上手代码，我们逐行解析其作用：

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
torch.manual_seed(30)

# 加载模型和分词器
model_id = "DeepSeek-Prover-V2-7B"  # 或 DeepSeek-Prover-V2-671B
tokenizer = AutoTokenizer.from_pretrained(model_id)

# 定义要证明的数学问题
formal_statement = """
import Mathlib
import Aesop

set_option maxHeartbeats 0

open BigOperators Real Nat Topology Rat

/-- What is the positive difference between $120\%$ of 30 and $130\%$ of 20? Show that it is 10.-/
theorem mathd_algebra_10 : abs ((120 : ℝ) / 100 * 30 - 130 / 100 * 20) = 10 := by
  sorry
""".strip()

# 构建提示词
prompt = """
Complete the following Lean 4 code:

```lean4
{}

Before producing the Lean 4 code to formally prove the given theorem, provide a detailed proof plan outlining the main proof steps and strategies. The plan should highlight key ideas, intermediate lemmas, and proof structures that will guide the construction of the final formal proof. """.strip()

构建对话格式

chat = [ {"role": "user", "content": prompt.format(formal_statement)}, ]

加载模型

model = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto", torch_dtype=torch.bfloat16, trust_remote_code=True) inputs = tokenizer.apply_chat_template(chat, tokenize=True, add_generation_prompt=True, return_tensors="pt").to(model.device)

生成证明

import time start = time.time() outputs = model.generate(inputs, max_new_tokens=8192) print(tokenizer.batch_decode(outputs)) print(time.time() - start)

### 代码解析：
1. **加载模型和分词器**：使用 `AutoModelForCausalLM` 和 `AutoTokenizer` 加载模型和分词器。
2. **定义数学问题**：`formal_statement` 是一个 Lean 4 格式的数学问题。
3. **构建提示词**：`prompt` 要求模型生成详细的证明计划。
4. **生成证明**：调用 `model.generate` 生成证明，并打印结果。

## 运行与结果展示

运行上述代码后，你将看到模型生成的证明计划和完整的 Lean 4 代码。输出结果可能如下：

```plaintext
Proof Plan:
1. Calculate 120% of 30.
2. Calculate 130% of 20.
3. Subtract the second result from the first.
4. Take the absolute value of the difference.
5. Show that the result equals 10.

Lean 4 Code:
theorem mathd_algebra_10 : abs ((120 : ℝ) / 100 * 30 - 130 / 100 * 20) = 10 := by
  calc
    abs ((120 : ℝ) / 100 * 30 - 130 / 100 * 20) = abs (36 - 26) := by ring
    _ = abs 10 := by norm_num
    _ = 10 := by norm_num

常见问题（FAQ）与解决方案

问题1：显存不足（OOM）

• 现象：运行时报错 CUDA out of memory。
• 解决方案：
  • 尝试减少 max_new_tokens 的值。
  • 使用更小的模型（如 7B 版本）。
  • 检查 GPU 显存是否满足要求。

问题2：依赖冲突

• 现象：安装依赖时报错。
• 解决方案：
  • 使用虚拟环境隔离依赖。
  • 确保 PyTorch 和 CUDA 版本兼容。

问题3：下载失败

• 现象：模型下载中断或失败。
• 解决方案：
  • 使用 huggingface-cli 的 --resume-download 参数继续下载。
  • 手动下载并解压模型文件。

---

希望这篇教程能帮助你顺利运行 DeepSeek-Prover-V2-671B！如果有其他问题，欢迎在评论区交流。

【免费下载链接】DeepSeek-Prover-V2-671B 项目地址: https://gitcode.com/hf_mirrors/deepseek-ai/DeepSeek-Prover-V2-671B