Toward Edge General Intelligence with Multiple-Large Language Model (Multi-LLM): Architecture, Trust

文章主要内容总结

本文是一篇关于边缘计算中多大型语言模型（Multi-LLM）系统的综述，核心目标是探索如何通过多LLM协作实现边缘通用智能（Edge General Intelligence, EGI）。主要内容包括：

1. 演进背景：回顾了边缘AI的发展历程，从传统专用窄模型、单LLM部署，到多LLM系统的必要性——单LLM存在泛化能力有限、易产生幻觉和偏见等问题，而多LLM通过协作可整合优势、弥补缺陷。
2. 核心架构与技术：
   • 多LLM的协作模式（合作式、竞争式、集成式）；
   • 关键使能技术，包括模型压缩（量化、剪枝等）、动态资源编排、模型上下文协议、隐私保护（联邦学习、加密技术）、LLM微调（联邦微调、拆分学习）、多模态信息融合；
   • 可信多LLM系统（结合区块链实现共识与溯源）。
3. 应用场景：列举了多LLM在边缘计算中的典型应用，如老年护理、智能电网巡检、智能交通、低空经济网络（LAENets）。
4. 未来方向：提出轻量级多模态LLM、跨域泛化、可信AI治理、多LLM推理等关键研究方向。

创新点