TinyZero 项目使用教程

TinyZero 项目使用教程

TinyZero Clean, minimal, accessible reproduction of DeepSeek R1-Zero 项目地址: https://gitcode.com/gh_mirrors/tin/TinyZero

1. 项目目录结构及介绍

TinyZero 项目是一个基于 Python 的开源项目，其目录结构如下：

• ./examples/：包含示例数据和数据处理脚本。
• ./scripts/：包含项目运行所需的脚本文件，如训练脚本。
• ./data_preprocess/：包含数据预处理的脚本。
• ./tests/：包含单元测试相关的文件。
• ./verl/：包含 veRL 相关的代码。
• ./patches/：包含项目补丁和修改文件。
• ./docker/：包含 Docker 相关的配置文件。
• ./docs/：项目文档所在目录。
• ./requirements.txt：项目依赖文件，指定了项目运行所需的第三方库。
• ./setup.py：项目设置文件，用于构建和打包项目。
• ./pyproject.toml：Python 项目配置文件，定义了项目元数据和依赖。
• ./README.md：项目说明文件，包含了项目的基本信息和使用方法。

2. 项目的启动文件介绍

在 TinyZero 项目中，并没有一个明确的“启动文件”。项目的运行通常是通过命令行执行的脚本实现的。以下是几个关键的脚本文件：

• train_tiny_zero.sh：训练 TinyZero 模型的脚本文件。需要设置环境变量，包括模型路径、数据集路径、GPU 数量等。
• countdown.py：数据预处理脚本，用于准备倒计时任务的数据。

要运行训练脚本，你需要在终端中激活相应的虚拟环境，并设置好环境变量，然后执行脚本。

3. 项目的配置文件介绍

项目的配置主要通过环境变量和 Python 脚本中的参数设置来实现。以下是一些重要的配置：

• 环境变量 N_GPUS：指定训练时使用的 GPU 数量。
• 环境变量 BASE_MODEL：指定基础模型的路径。
• 环境变量 DATA_DIR：指定数据集的路径。
• 环境变量 ROLLOUT_TP_SIZE：指定 roll-out time-steps 的大小。
• 环境变量 EXPERIMENT_NAME：指定实验名称，用于标识训练过程。
• 环境变量 VLLM_ATTENTION_BACKEND：指定使用的注意力机制后端。

这些环境变量需要在运行训练脚本之前设置，以确保训练过程使用正确的配置。

以上就是 TinyZero 项目的目录结构、启动文件和配置文件的介绍。要开始使用项目，请参考项目的 README.md 文件，按照官方指南进行操作。

TinyZero Clean, minimal, accessible reproduction of DeepSeek R1-Zero 项目地址: https://gitcode.com/gh_mirrors/tin/TinyZero