LLMs Tool 安装与配置指南

LLMs Tool 安装与配置指南

llms_tool 一个基于HuggingFace开发的大语言模型训练、测试工具。支持各模型的webui、终端预测，低参数量及全参数模型训练(预训练、SFT、RM、PPO、DPO)和融合、量化。 项目地址: https://gitcode.com/gh_mirrors/ll/llms_tool

1. 项目基础介绍

LLMs Tool 是一个基于 HuggingFace 开发的大语言模型训练、测试工具。它支持不同模型的 webui 和终端预测，同时也支持各模型的低参数量及全参数模型的预训练、奖励模型训练以及 RLHF 训练（包括 PPO 和 DPO 两种方法）。此项目特别适合需要对大型语言模型进行训练和测试的开发者。

主要编程语言：Python

2. 项目使用的关键技术和框架

• HuggingFace: 提供了模型的预训练和微调能力。
• Transformers: 用于处理和训练模型的关键库。
• PyTorch: 深度学习框架，用于模型的训练和推理。
• Deepspeed: 用于分布式训练，提高训练效率。
• Bitsandbytes: 提供量化功能，用于减少模型大小和提高推理速度。

3. 项目安装和配置的准备工作及详细步骤

准备工作

• 确保你的系统中安装了 Python 3.10 或更高版本。
• 安装必要的依赖环境，包括但不限于 torch, bitsandbytes 等。

安装步骤

步骤 1: 克隆项目仓库

打开终端，运行以下命令克隆项目：

git clone https://github.com/stanleylsx/llms_tool.git
cd llms_tool

步骤 2: 安装依赖

在项目根目录下，运行以下命令安装项目依赖：

pip install -r requirements.txt

步骤 3: 配置模型参数

在 config.py 文件中，根据你的需求配置模型参数，如 model_type 和 model_path 等。

# 示例配置
model_type: str = 'internlm'
model_path: str = '/path/to/your/model'

步骤 4: 运行项目

根据你的需求，运行相应的脚本进行模型的训练、测试或预测。

例如，运行以下命令进行预训练：

python main.py --mode pretrain

或者运行以下命令进行模型预测：

python main.py --mode terminal_inference

以上步骤即为 LLMs Tool 的基础安装和配置指南，按照这些步骤，即使是编程小白也能顺利地开始使用这个强大的工具。

llms_tool 一个基于HuggingFace开发的大语言模型训练、测试工具。支持各模型的webui、终端预测，低参数量及全参数模型训练(预训练、SFT、RM、PPO、DPO)和融合、量化。 项目地址: https://gitcode.com/gh_mirrors/ll/llms_tool