HFL-FlowLLM: Large Language Models for Network Traffic Flow Classification in Heterogeneous Feder...

一、文章主要内容总结

该研究针对5G和物联网驱动的现代通信网络中，网络流量分类面临的分布式数据处理、隐私保护、设备异构性等挑战，提出了HFL-FlowLLM框架——首个将大型语言模型（LLM）应用于异构联邦学习（HFL）场景下网络流量分类的解决方案。

核心背景与问题

1. 传统集中式机器学习存在通信开销大、隐私风险高的问题；现有联邦学习方法面临模型设计维护成本高、泛化能力弱的局限。
2. LLM虽具备强大的模式识别和泛化能力，但直接应用于HFL流量分类时，存在架构不兼容（自回归生成范式不适配分类任务）、训练成本高（参数量大，边缘设备难以承载）、客户端资源利用率低（异构设备适配不足）等新挑战。

框架核心设计

HFL-FlowLLM通过五大关键步骤解决上述问题：

1. 模型转换：替换LLM的生成头为专门的网络头（单次推理输出分类结果，保证有效性和准确性），并通过层丢弃压缩模型，同时将压缩模型拆分为特征提取器和分类器。
2. 广播：服务器将特征提取器和分类器广播至所有客户端。
3. 自适应训练：客户端基于本地数据量、数据复杂度、硬件算力动态调整LoRA秩，仅微调分类器的LoRA模块，冻结提取器和分类器主干参数，降低训练成本。
4. 上传：客户端仅上传微调后的LoRA参数至服务器。
5. 无噪声聚合<