DLoRA: Distributed Parameter-Efficient Fine-Tuning Solution for Large Language Model

本文是LLM系列文章，针对《DLoRA: Distributed Parameter-Efficient Fine-Tuning Solution for Large
Language Model》的翻译。

摘要

为了提高大型语言模型（LLM）在下游任务上的性能，一种解决方案是微调某些LLM参数，使其更好地与训练数据集的特征相一致。这个过程通常被称为参数高效微调（PEFT）。由于LLM的规模，PEFT操作通常在公共环境（例如云服务器）中执行。这需要在公共环境中共享敏感的用户数据，从而引发潜在的隐私问题。为了应对这些挑战，我们提出了一个名为DLoRA的分布式PEFT框架。DLoRA使可扩展的PEFT操作能够在云和用户设备之间协同执行。结合所提出的Kill and Revive算法，评估结果表明，DLoRA可以显著减少用户设备的计算和通信工作量，同时实现卓越的准确性和隐私保护。

1 引言

2 背景和相关工作

3 Kill and Revive机制

4 评估

5 结论

本文介绍了DLoRA，这是一种为跨云和边缘设备的高效PEFT操作量身定制的新型分布式解决方案。DLoRA利用Kill和Revive算法来提高微调过程中的效率，从而大大减少了计算和通信工作负载。实验结果表明，与仅云和仅边缘解决方案相比，我们的DLoRA系统显著减少了计算和通信，同时保持了准确性