LoRA Fine-Tuning Without GPUs: A CPU-Efficient Meta-Generation Framework for LLMs

文章主要内容总结

本文提出了一种无需GPU即可为大型语言模型（LLMs）生成低秩适配器（LoRAs）的CPU高效元生成框架，旨在解决传统LoRA微调依赖GPU资源的问题。核心思路是：利用预训练的LoRA适配器库，通过轻量级组合现有LoRA权重（而非进行新的梯度更新），为新任务生成适配的LoRA，整个过程可在普通笔记本CPU上完成。

具体而言，该框架将数据集表示为概率分布，通过计算新数据集与预训练数据集的分布相似度（如Wasserstein距离、KL散度等），生成融合权重，进而组合预训练LoRA得到新适配器。实验基于Mistral-7B-Instruct-v0.2模型和502个数据集验证，结果显示：生成的LoRA性能虽不及GPU微调版本，但显著优于未微调的基础模型（如Rouge-L得分从0.192提升至0.520），且提出的无神经网络方法（Attentional、Normalized）性能接近基于MLP的神经方法，兼顾效率与效果。

创新点

1. CPU端LoRA生成：首次实现无需GPU即可生成LoRA适配器，通过组合预训练LoRA避免梯度更新，大幅降低计算资源需求。
2. 理论支撑的元生成框架：基于概率分布表示数据集，通过分布相似度映射融合权重，理论上证明ReLU-MLP可逼近最优融合系数（定理1），且存在轻量无神经网络的近优解。
3. 高效实用的方法设计：提出Attentional（注意力式）、Normalized（归一化）、Neural（神经式）三种生成管道，其中简单方法（如Normalized+JS