一个RAG与层次化Agent加持的落地案例

智能设备的日益普及强调了维护在生产活动中的关键作用。交互式电子技术手册（IETMs）是支持智能设备维护的重要工具。传统的IETMs面临着从图形用户界面（GUIs）过渡到自然语言用户界面（LUIs）以及管理复杂逻辑关系的挑战。

为此，提出了一种基于大型语言模型的维护方案生成方法LLM-R，包括几个关键创新：

• 提出了低秩适应-知识保留（LORA-KR）损失技术，以比例调整混合维护数据，用于微调LLM。这种方法防止了由混合数据引起的知识冲突，提高了模型在特定维护领域的适应性和推理能力。

• 此外，采用了基于层次任务的Agent和指令级检索增强生成（RAG）技术来优化生成步骤，并减轻模型无法访问上下文信息时引起的幻觉现象。

LLM-R框架用于生成维护方案的关键步骤：

1. 提取维护数据（Extraction of maintenance data）：

   • 从设备的维护过程中提取相关的维护数据，包括历史维护记录、维护程序文档和其他相关技术信息。

   • 这些数据为模型的训练和优化提供了丰富而准确的数据集。

2. 组织数据格式（Organization of data format）：

   • 将收集到的维护数据系统地组织，以满足LLM的数据输入格式要求。

   • 包括