MRD-RAG：多轮检索增强生成在医学诊断中的应用 - 港科大

最新推荐文章于 2025-11-25 12:11:01 发布

原创最新推荐文章于 2025-11-25 12:11:01 发布 · 1k 阅读

13 ·

CC 4.0 BY-SA版权

文章标签：

#知识图谱 #人工智能 #算法 #机器学习 #大数据

摘要

近年来，准确快速地部署医学大型语言模型已成为显著趋势。其中，检索增强生成因其快速部署和隐私保护的特点而备受关注。然而，现有的医学检索增强生成框架仍有不足。大多数现有医学检索增强生成框架专为单轮问答任务设计，不适合多轮诊断对话。另一方面，现有的医学多轮检索增强生成框架未考虑潜在疾病间的相互联系，无法像医生一样精确询问。为解决这些问题，我们提出了一种模仿医生诊断过程的多轮诊断检索增强生成（MRD-RAG）框架。这个RAG框架能够分析潜在疾病的诊断信息，并像医生一样准确地进行多轮诊断。为了评估我们提出的框架的有效性，我们在两个现代医学数据集和两个传统中医数据集上进行了实验，并由GPT和人类医生用不同的方法进行评估。结果表明，我们的RAG框架可以显著提升大型语言模型（LLMs）的诊断性能，突显了我们方法在医学诊断中的潜力。代码和数据可以在我们的项目网站找到。

● 大型语言模型应通过多轮对话模仿医生进行准确诊断

● 树状结构知识库便于检索诊断信息

● 伪医学病史在疾病信息与患者话语之间实现语义上的连接

https://github.com/YixiangCh/MRD-RAG/tree/master

核心速览

研究背景

研究问题

：这篇文章要解决的问题是如何利用多轮检索增强生成（RAG）框架来提升医疗诊断的准确性。现有的医疗RAG框架大多针对单轮问答任务，不适合多轮诊断对话，且未能充分考虑潜在疾病之间的相互关联。
研究难点

：该问题的研究难点包括：现有医学知识库通常不包含详细的诊断信息，患者的话语与知识库中的信息在语义上不对齐，导致检索不准确。
相关工作

：该问题的研究相关工作有：单轮RAG方法如HyKGE和ChatDoctor，多轮RAG方法如RagPULSE和ConvRAG，以及专门的医学LLM如DISC-MedLLM和HuatuoGPT-II。这些方法在处理单轮和多轮对话任务时存在一定的局限性。

研究方法

这篇论文提出了多轮诊断RAG（MRD-RAG）框架，用于解决医疗诊断中的多轮对话问题。具体来说，

知识库构建：首先，作者构建了一个包含746种现代医学疾病和130种传统中医疾病的知识库，每个疾病被组织成树状结构（DI-Tree），以便于搜索诊断相关信息并排除无关信息。
多轮诊断RAG框架：MRD-RAG框架主要由三个模块组成：检索器、分析器和医生模块。

检索器模块

：负责从DI-Tree知识库中检索多个候选疾病。检索器使用患者的对话历史作为查询，计算查询表示并与知识库中的疾病表示进行相似度匹配，获取前k个候选疾病。
分析器模块

：模拟人类医生的思考过程，总结候选疾病之间的相互关联和差异，分析患者与每个疾病的关系，生成一个包含诊断信息的思维过程。
医生模块

：基于分析器的思维过程和对话历史，向患者提出进一步的问题或做出诊断。

实验设计

数据集

：实验使用了四个数据集进行评估，包括两个公开数据集（CMB-Clin和TCM-SD-100）和两个自建数据集（MM-Cases和TCM-Cases）。CMB-Clin包含74个复杂的现代医学临床诊断案例，TCM-SD-100包含100个中医辨证案例，MM-Cases和TCM-Cases分别包含609个和130个合成病例。
实施细节

：实验中使用GPT-4o-mini作为患者，与不同方法进行多轮对话。每轮对话中，患者根据其医疗信息和对话历史进行交流。检索器每次检索5个疾病，分析器和医生模块共享同一个LLM。最大对话轮数设置为3。
基线方法

：选择了四组方法作为基线：一般LLM、医学领域LLM、单轮RAG和RagPULSE。一般LLM包括Qwen2-7B-Instruct、Qwen2-72B-Instruct-AWQ、GPT-4o-mini和GPT-4o；医学领域LLM包括DISC-MedLLM、HuatuoGPT-II-7B和Baichuan-M1-14B-Instruct；单轮RAG方法使用Qwen2-7B-Instruct、Qwen2-72B-Instruct-AWQ、GPT-4o-mini和Baichuan-M1-14B-Instruct作为基模型。

结果与分析

GPT评估结果：MRD-RAG在不使用RAG和单轮RAG的情况下，平均诊断准确性分别提高了9.4%和6%。具体来说，MRD-RAG-PMH（使用伪医学历史索引）在MM-Cases数据集上的GPT评分比单轮RAG提高了0.30，在TCM-SD-100数据集上提高了0.24。
人类医生评估结果：人类医生评估显示，MRD-RAG在不使用RAG和单轮RAG的情况下，平均诊断准确性分别提高了21.75%和18%。在MM数据上，MRD-RAG的平均胜率为55:33.25，在TCM数据上为41.75:23.75。
文本生成评估结果：MRD-RAG在BLEU-1、ROUGE-1和METEOR等指标上也表现出色，特别是在CMB数据集上，MRD-RAG的平均BLEU-1评分比不使用RAG的方法提高了1.99，比单轮RAG提高了2.60。
检索性能分析：伪医学历史索引（IndexPMH）在大多数数据集上的检索性能显著优于传统索引（IndexDI），例如在MM-Cases数据集上，IndexPMH的MRR评分比IndexDI提高了0.27。

总体结论

这篇论文提出了一种新的多轮诊断RAG框架MRD-RAG，通过构建详细的疾病知识库和模拟人类医生的诊断过程，显著提升了医疗诊断的准确性。实验结果表明，MRD-RAG在不使用RAG和单轮RAG的情况下，诊断准确性分别提高了9.4%和6%，并且在人类医生评估中也表现出色。该框架为医疗诊断提供了一种有效的解决方案，具有重要的应用价值。

论文评价

优点与创新

构建了现代医学和传统中医疾病知识库，分别包含746种现代医学疾病和130种传统中医疾病，每个疾病组织成树状结构，便于搜索诊断相关信息并排除无关信息。
提出了多轮诊断RAG框架（MRD-RAG），能够与患者进行多轮对话以进行诊断。该框架能够分析多个候选疾病之间的相互联系和差异，从而像医生一样精确地询问或诊断患者。
实验结果表明，MRD-RAG框架在不同LLM上的诊断性能显著提高，平均提高了9.4%（无RAG）和6%（单轮RAG）。人类医生的评估结果也一致显示，该框架相比无RAG和单轮RAG方法分别提高了21.75%和18%。
通过生成伪医学病史索引，有效缓解了患者话语与知识库中疾病信息之间的语义对齐问题。
提供了详细的实验设置和数据集信息，便于其他研究者复现和验证。

不足与反思

论文中提到，现有医学知识库大多不同时包含现代医学和传统中医疾病的详细诊断信息，这限制了MRD-RAG框架在诊断任务中的应用范围。
尽管MRD-RAG框架在多轮诊断场景中表现出色，但在处理复杂医学问题时，仍需进一步优化和改进。
未来工作可以考虑将MRD-RAG框架与其他医疗技术（如传感器数据、专家系统等）结合，进一步提升诊断的准确性和效率。

关键问题及回答

问题1：MRD-RAG框架中的DI-Tree知识库是如何构建的？其优势是什么？

DI-Tree知识库是通过收集746种现代医学疾病和130种传统中医疾病的条目构建的。每个疾病被组织成树状结构（DI-Tree），以便于搜索诊断相关信息并排除无关信息。具体构建过程包括以下几个步骤：

数据收集

：从两个医学百科全书网站收集疾病条目。
树状结构构建

：根据疾病的不同特征（如症状、发病机制等），将疾病条目组织成树状结构。树的中间节点表示HTML标题，叶节点表示具体内容。
索引构建

：从DI-Tree中提取诊断相关信息，构建密集向量索引。为了提高检索准确性，还生成了伪医学历史文本，并将其用于索引。

DI-Tree知识库的优势在于：

结构化信息

：树状结构使得诊断相关信息更容易定位和提取。
详细信息

：包含每种疾病的详细诊断信息，如症状、临床表现、诊断方法等，有助于提升LLM的诊断能力。
语义对齐

：通过生成伪医学历史文本，减少了患者话语与知识库信息之间的语义鸿沟，提高了检索准确性。

问题2：MRD-RAG框架中的分析器模块是如何模拟人类医生的思考过程的？

MRD-RAG框架中的分析器模块通过以下步骤模拟人类医生的思考过程：

候选疾病总结

：分析器模块接收多个候选疾病的诊断信息，并总结这些疾病之间的相互关联和差异。
关系分析

：分析器模块分析患者与每个候选疾病的关系，考虑患者的具体症状、体征、生活方式等因素。
思维过程生成

：分析器模块生成一个包含诊断信息的思维过程，该过程总结了候选疾病的异同点、诊断方向以及需要进一步询问的患者信息。

通过这种方式，分析器模块能够提供一个更为精确和关键的诊断信息外部知识，帮助医生模块做出更准确的诊断。

问题3：MRD-RAG框架在实验中的表现如何？有哪些关键发现？

MRD-RAG框架在实验中的表现非常出色，具体表现如下：

GPT评估结果：MRD-RAG在不使用RAG和单轮RAG的情况下，平均诊断准确性分别提高了9.4%和6%。特别是使用伪医学历史索引（IndexPMH）的方法，在MM-Cases数据集上的GPT评分比单轮RAG提高了0.30，在TCM-SD-100数据集上提高了0.24。
人类医生评估结果：人类医生评估显示，MRD-RAG在不使用RAG和单轮RAG的情况下，平均诊断准确性分别提高了21.75%和18%。在MM数据上，MRD-RAG的平均胜率为55:33.25，在TCM数据上为41.75:23.75。
文本生成评估结果：MRD-RAG在BLEU-1、ROUGE-1和METEOR等指标上也表现出色，特别是在CMB数据集上，MRD-RAG的平均BLEU-1评分比不使用RAG的方法提高了1.99，比单轮RAG提高了2.60。
检索性能分析：伪医学历史索引（IndexPMH）在大多数数据集上的检索性能显著优于传统索引（IndexDI），例如在MM-Cases数据集上，IndexPMH的MRR评分比IndexDI提高了0.27。

这些结果表明，MRD-RAG框架通过构建详细的疾病知识库和模拟人类医生的诊断过程，显著提升了医疗诊断的准确性，具有重要的应用价值。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述