大模型加速微调和训练，不得不掌握的方法，代码解析和应用示例

通过本文可以了解：LoRA模型加速原理、peft包使用、Autocust自动混合精度、Accelerate和deepspeed加速、多GPU分布式训练等大模型加速训练和微调的方法和代码应用示例。

近期大模型层出不穷，大家对于大模型的微调也在跃跃欲试，像斯坦福的Alpaca[1], 清华的ChatGLM[2]，中文的Chinese-Vicuna[3]，让我这样的普通玩家也能训练自己的微调模型。

在微调和推理的时候仍然需要加速，有哪些方法可以加速微调呢？

Part1LoRA

低秩矩阵分解 LoRA[4]原理：冻结预训练模型权重，并将可训练的秩分解矩阵注入到Transformer层的每个权重中，大大减少了下游任务的可训练参数数量。LoRA 开源代码[5]见文末。

原理图：

公式：

结合原理图和公式，我们可以很容易明白LoRA了：

左侧是预训练模型的权重，输入输出维度都是d，在训练期间被冻结，不接受梯度更新。

右侧，对A使用随机的高斯初始化，B在训练开始时为零，r是秩，会对△Wx做缩放 α/r。

HuggingFace的包peft[6]对LoRA做了封装支持，几步即可使用：

论文中提到了LoRA的诸多优点：

Part2Accelerate 和 deepspeed

Accelerate[7]库提供了简单的 API，使我们可以在任何类型的单节点或分布式节点(单CPU、单GPU、多GPU 和 TPU)上运行，也可以在有或没有混合精度(fp16)的情况下运行。

这里是我用 Accelerator 和 DeepSpeedPlugin 做个示例：

需要提前知道梯度累积步骤 gradient_accumulation_steps 和 梯度累积计算

Part3Autocast 自动混合精度

autocast是在GPU上训练时一种用于降低显存消耗的技术。原理是用更短的总位数来保存浮点数，能够有效将显存消耗降低，从而设置更大的batch来加速训练。但会造成精度的损失，导致收敛效果也会变差。

PyTorch的AMP有2种精度是torch.FloatTensor和torch.HalfTensor。

使用方法：

from torch.cuda.amp import autocast as autocast, GradScaler

dataloader = ...
model = model.cuda()
optimizer = ...
scheduler = ...
# scaler的大小在每次迭代中动态估计，为了尽可能减少梯度，scaler应该更大；
# 但太大，半精度浮点型又容易 变成inf或NaN.
# 动态估计原理就是在不出现if或NaN梯度的情况下，尽可能的增大scaler值。 
scaler = GradScaler()

for epoch in range(epochs):
    for batch_idx, (data, targets) in enumerate(train_dataloader):
        optimizer.zero_grad()        
        data = data.cuda(0)        
        with autocast(dtype=torch.bfloat16): # 自动混精度            
            logits = model(data)            
            loss = loss(logits, targets)       
        # 反向传播梯度放大        
        scaler.scale(loss).backward()        
        # 首先 把梯度值unscale回来, 优化器中的值也需要放缩        
        # 如果梯度值不是inf或NaN, 则调用optimizer.step()来更新权重，否则，忽略step调用，从而保证权重不更新。        
        scaler.step(optimizer)        
        # 看是否要增大scaler, 更新scaler        
        scaler.update()

Part4单机多GPU

如果条件允许的话，可以使用单机多卡和分布式训练。

那么：

• 模型怎么同步参数与梯度？
• 数据怎么划分到多个GPU中？

pytorch框架给我们封装了对应的接口函数：

PyTorch提供的torchrun命令以及一些API封装了多进程的实现。我们只要在普通的单进程程序前后加入：开头 setup()和 结尾 cleanup()：

就能用多个进程来运行训练程序，每个进程分配一个GPU，我们可以用dist.get_rank()来查看当前进程的GPU号的。

1数据并行：

只要在生成Dataloader时，把DistributedSampler的实例传入sampler参数就行了，DistributedSampler会自动对数据采样，并放到不同的进程中。这里需要注意的是：sampler自动完成了打乱数据集的作用，所以在定义DataLoader时，不用再开启shuffle选项。

一机多GPU，使用一个进程管理一个GPU，每个进程共享模型参数，但是使用不同的数据，每次训练数据量 = batch size * GPU个数。PyTorch提供的torchrun命令以及一些API封装了多进程的实现：

https://pytorch.org/docs/stable/elastic/run.html#launcher-api

数据处理部分的示例代码，MyDataset具体内部实现，可以参考之前的自定义数据集的文章：

[

2分布式数据并行

在并行训练时，各个进程并行，每个模型使用同一份模型参数 weights。在梯度下降时，各个进程会同步一次，致使每个进程的模型都更新相同的梯度。

做法也很简单，只需要把Model套一层DistributedDataParallel，就可以实现backward的自动同步梯，其他的操作都照旧，把新模型ddp_model当成旧模型model调用就行。

训练流程照常：

在每个新epoch中，要用sampler.set_epoch(epoch)更新sampler打乱数据集。训练流程和普通深度学习训练流程一样。

3模型保存和读取：

在保存的时候，我们只需要保存一个进程下的模型即可，另外使用barrier()确保进程1在进程0保存模型之后加载模型。

存储参数时会保存设备信息。由于刚刚只保存了0号GPU进程的模型，所有参数的device都是cuda:0。而读取模型时，每个设备上都要去加载这个模型，device要做一个调整。

使用DistributedDataParallel把model封装成ddp_model后，模型的参数名称里多了一个module，这是因为原来的模型model被保存到了ddp_model.module这个成员变量中。

在混用单GPU和多GPU的训练代码时，要注意这个参数名不兼容的问题，包括上面我们使用LoRA加载模型的时候，也会出现模型层名称变换了的情况。最好的做法是每次存取ddp_model.module，这样单GPU和多GPU的checkpoint可以轻松兼容。

大模型快速微调和训练是我们做自然语言处理必备技能之一，尤其现在大语言模型及其微调模型不断涌现，只有掌握了这些技能才能跟上AI的浪潮。

​

如何学习大模型

现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。

作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。

我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

二、AI大模型视频教程

三、AI大模型各大学习书籍

四、AI大模型各大场景实战案例

五、结束语

学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。

再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。

因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。