medIKAL-知识图谱增强大模型以提升电子病历临床诊断能力

摘要

=====================================================================================================================================================================================================

**

电子病历(EMR)在现代医疗中虽然不可或缺,但由于其复杂性和信息冗余性,给临床推理和诊断带来了挑战。为解决这一问题,我们提出了medIKAL(整合知识图谱作为大型语言模型的辅助工具)框架,该框架结合了大型语言模型(LLMs)与知识图谱(KGs),以提升诊断能力。medIKAL根据医疗记录中实体的类型赋予其加权重要性,使得能够在知识图谱中精确定位候选疾病。它创新性地采用类似残差网络的方法,允许大型语言模型的初步诊断结果融入知识图谱搜索结果中。通过基于路径的重排序算法和填空式提示模板,进一步精炼了诊断过程。我们通过对新引入的开源中文电子病历数据集进行广泛实验,验证了medIKAL的有效性,展示了其在真实世界环境中改善临床诊断的潜力。

https://arxiv.org/abs/2406.14326

核心速览**

研究背景

  1. 研究问题:这篇文章要解决的问题是如何利用知识图谱(Knowledge Graphs, KGs)来增强大型语言模型(Large Language Models, LLMs)在电子病历(Electronic Medical Records, EMRs)中的临床诊断能力。

  2. 研究难点:该问题的研究难点包括:EMRs的复杂性和信息冗余性导致的临床推理和诊断困难;LLMs缺乏特定医学知识,容易生成错误知识;现有的“LLM + KG”方法在应用于EMR诊断任务时存在局限性。

  3. 相关工作:该问题的研究相关工作有:利用LLMs进行疾病诊断和预测的研究;将知识图谱与LLMs结合的研究,包括嵌入表示、提示模板和迭代策略等方法。

研究方法

这篇论文提出了medIKAL(Integrating Knowledge Graphs as Assistants of LLMs)框架,用于解决EMR诊断中的问题。具体来说,

  1. EMR摘要和直接诊断:首先,设计了一系列问题提示LLMs对EMR进行关键信息摘要,包括患者症状、病史、用药情况、就诊记录等。

  2. 基于LLM的初步诊断:基于分解和摘要后的EMR,允许LLM依赖其内部知识进行初步诊断,得到一组可能的疾病

  3. 候选疾病定位和重排:

  • 实体识别和匹配:使用预训练的NER模型对摘要后的EMR进行实体识别,然后将每个实体链接到知识图谱中对应的节点。

  • 基于实体类型的候选疾病定位:根据实体的类型分配不同的贡献权重,搜索知识图谱中1跳邻居的疾病节点,并根据权重调整疾病节点的得分。

  • 基于路径的候选疾病重排:定义表示疾病i与实体j在知识图谱上的最短路径距离,距离越短的疾病被认为与患者信息的相关性越强。

  1. LLM和KG知识的协同推理:重建知识图谱信息,将其转化为半结构化表示,提供给LLM进行协同推理。设计了基于填空模板的提示,使LLM能够定量评估特定疾病与各个方面的相关性,并计算总分。

实验设计

  1. 数据集构建:构建了CMEMR(Chinese Multi-department Electronic Medical Records)数据集,包含来自中文医疗网站的10450条EMR记录。为了验证方法的有效性,还选择了CMB-Clin、GMD和CMD三个数据集作为补充。

  2. 基线方法:比较了medIKAL与三类基线方法:仅使用LLM的方法、LLM+KG的方法和LLMNG的方法。

  3. 评估指标:采用国际疾病分类(ICD-10)作为权威源,通过模糊匹配过程将诊断结果与ICD-10术语关联,计算精确率(Precision)、召回率(Recall)和F1值(F1-score)。

  4. 实现细节:选择Qwen模型作为骨干模型,使用CPubMed-KG作为知识图谱,RaNER模型进行实体识别,CoROM模型进行实体节点匹配。

结果与分析

  1. 整体性能:在CMEMR数据集上的主要实验结果显示,medIKAL方法在使用LLM+KG范式时显著优于其他基线方法,证明了其在EMR诊断任务中的有效性。

  2. 深入分析:不同知识图谱增强提示对medIKAL性能的影响显示,使用相关实体效果不佳,而medIKAL能够最小化模型对知识图谱知识的过度依赖,保留大部分有用预测。

  3. 消融研究:通过消融实验展示了不同模块的重要性,去除摘要模块和实体类型权重模块会严重影响性能,而去除重排模块会导致结果完全依赖于知识图谱搜索过程。

总体结论

本文提出了medIKAL框架,通过加权实体类型和类似残差的集成方法,显著提高了LLMs在EMR中的临床诊断能力。实验结果表明,medIKAL在真实世界临床设置中有潜力提高诊断准确性和效率。medIKAL为AI辅助临床诊断提供了一个有前景的方向,为更先进的医疗保健应用铺平了道路。

论文评价

优点与创新

  1. 提出了一个新的框架:medIKAL(Integrating Knowledge Graphs as Assistants of LLMs),将大型语言模型(LLMs)与知识图谱(KGs)结合,以提高电子病历(EMR)诊断的准确性。

  2. 加权实体识别:根据实体的类型对医疗记录中的实体进行加权,使得在知识图谱中准确定位候选疾病成为可能。

  3. 残差网络集成方法:创新性地采用类似残差网络的方法,允许大型语言模型在没有外部知识的情况下进行初步诊断,然后将诊断结果与知识图谱的搜索结果合并。

  4. 基于路径的重排序算法:通过基于路径的重排序算法进一步细化诊断过程。

  5. 特殊提示模板设计:设计了特殊的填空式提示模板,帮助大型语言模型更好地推理和纠错。

  6. 开源数据集引入:引入了一个开源的中国电子病历数据集CMEMR,解决了高质量开源中文电子病历数据缺乏的问题。

  7. 实验验证:在收集的电子病历数据集上进行了广泛的实验,证明了medIKAL的有效性。

不足与反思

  1. 数据集局限性:尽管仔细检查、去敏感化和验证了CMEMR数据集,但偶尔医疗记录的质量在实际实验中可能仍不足。此外,由于数据来源有限,医疗记录数据集在不同科室之间的分布不均匀。

  2. 框架局限性:尽管medIKAL在医疗领域展示了其有效性和巨大潜力,但它仍然存在一些局限性。首先,虽然它不限于EMR格式输入,但它需要输入数据样本中的大量信息。当输入数据信息稀疏时,medIKAL提高模型推理性能的效果会降低,并且增加了产生幻觉的风险。此外,medIKAL无法完全利用医疗测试结果的数值类型进行计算。解决此问题是未来工作的关键。

关键问题及回答

问题1:medIKAL框架在处理EMR数据时,如何利用知识图谱(KGs)来增强大型语言模型(LLMs)的诊断能力?

medIKAL框架通过以下几个步骤利用知识图谱来增强LLMs的诊断能力:

  1. 实体识别和匹配:首先,使用预训练的NER模型对摘要后的EMR进行实体识别,然后将每个实体链接到知识图谱中对应的节点。

  2. 基于实体类型的候选疾病定位:根据实体的类型分配不同的贡献权重,并在知识图谱中搜索相关疾病节点,更新每个疾病的得分。例如,症状实体可能比药物实体对诊断的影响更大,因此分配更高的权重。

  3. 基于路径的候选疾病重排:定义疾病节点与实体节点之间的最短路径距离,距离越短的疾病被认为与患者信息的相关性越强。通过这种方式,进一步筛选和排序候选疾病。

  4. 协同推理:重建知识图谱信息,将其转化为半结构化表示,提供给LLM进行协同推理。设计了填空白式的提示模板,指导LLM定量评估特定疾病与各个方面的相关性,并计算总分。

通过这些步骤,medIKAL框架能够有效地利用知识图谱来增强LLMs的诊断能力,使其在处理复杂的EMR数据时更加准确和高效。

问题2:medIKAL框架在实验中如何验证其有效性,使用了哪些数据集和评估指标?

  1. 数据集:
  • CMEMR数据集:构建了一个名为CMEMR(Chinese Multi-department Electronic Medical Records)的中国多科室电子病历数据集,包含10450条EMR记录,涵盖多个科室。

  • 补充数据集:为了进一步验证方法的有效性,还选择了以下三个数据集作为补充:

  • CMB-Clin:包含74条高质量、复杂的真实EMR记录。

  • GMD:包含目标疾病及其显性和隐性症状信息的数据集。

  • CMD:包含更多种类疾病和症状的数据集,是GMD数据集的后续版本。

  1. 评估指标:
  • 采用国际疾病分类(ICD-10)作为权威源,通过模糊匹配过程将诊断结果与ICD-10术语关联,计算精确率(Precision)、召回率(Recall)和F1值(F1-score)。具体计算过程包括:

  • 提取诊断结果中的疾病实体和EMR中的标签。

  • 通过模糊匹配过程将疾病实体与ICD-10术语关联,构建两个标准化疾病集和。

  • 计算True Positives (TP)、False Positives (FP) 和 False Negatives (FN),并根据这些值计算Precision、Recall和F1-score。

通过这些数据集和评估指标,medIKAL框架能够在实际应用中验证其有效性和优越性。

问题3:medIKAL框架在实验中表现如何,与其他基线方法相比有哪些优势?

  1. 整体性能:在CMEMR数据集上的主要实验结果显示,medIKAL方法在使用LLM+KG范式时显著优于其他基线方法,证明了其在EMR诊断任务中的有效性。具体来说,medIKAL在精确率、召回率和F1值上均表现出色。

  2. 深入分析:

  • 不同知识图谱增强提示的影响:使用相关实体效果不佳,而medIKAL能够最小化模型对知识图谱知识的过度依赖,保留大部分有用预测。这表明medIKAL在利用知识图谱的同时,还能保持LLMs的内部知识。

  • 消融研究:通过消融实验展示了不同模块的重要性,去除摘要模块和实体类型权重模块会严重影响性能,而去除重排模块会导致结果完全依赖于KG搜索过程。这进一步证明了medIKAL框架各模块的协同作用。

  1. 对比基线方法:
  • LLM-only:仅使用LLMs的方法在处理复杂EMR数据时表现较差,容易受到信息冗余和缺乏特定医学知识的影响。

  • LLM+KG:现有的“LLM + KG”方法在应用于EMR诊断任务时存在局限性,如实体识别不区分类型、处理复杂结构困难等。

  • LLMNG:LLMNG方法在处理长上下文和大规模知识图谱时表现不佳,容易达到迭代次数上限或超出LLMs的输入长度限制。

综上所述,medIKAL框架通过加权实体类型和类似残差的集成方法,显著提高了LLMs在EMR中的临床诊断能力,具有更高的精确率和召回率,并且在处理复杂EMR数据时表现更为稳定和有效。

如何学习AI大模型 ?

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓

优快云粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传优快云,朋友们如果需要可以扫描下方二维码&点击下方优快云官方认证链接免费领取 【保证100%免费】

读者福利: 👉👉优快云大礼包:《最新AI大模型学习资源包》免费分享 👈👈

(👆👆👆安全链接,放心点击)

对于0基础小白入门:

如果你是零基础小白,想快速入门大模型是可以考虑的。

一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

👉1.大模型入门学习思维导图👈

要学习一门新的技术,作为新手一定要先学习成长路线图,方向不对,努力白费。

对于从来没有接触过AI大模型的同学,我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。(全套教程文末领取哈)
在这里插入图片描述

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字,我也为大家准备了视频教程,每个章节都是当前板块的精华浓缩。

在这里插入图片描述
在这里插入图片描述

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(全套教程文末领取哈)

在这里插入图片描述

👉4.大模型落地应用案例PPT👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。(全套教程文末领取哈)

在这里插入图片描述

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。(全套教程文末领取哈)
img

在这里插入图片描述

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道,我总结了大模型常考的面试题。(全套教程文末领取哈)

在这里插入图片描述
👉学会后的收获:👈
基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习

优快云粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传优快云,朋友们如果需要可以扫描下方二维码&点击下方优快云官方认证链接免费领取 【保证100%免费】

读者福利: 👉👉优快云大礼包:《最新AI大模型学习资源包》免费分享 👈👈

(👆👆👆安全链接,放心点击)
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值