想象一下这样一个临床场景:一位心血管疾病患者来就诊,医生需要做出管理决策。这时候,医生脑子里要同时考虑什么?
合并症之间的相互影响、药物之间的禁忌配伍、生活方式的干预建议、心血管风险的综合评估……这些信息往往散落在不同的指南章节中,医生需要把它们综合起来,才能给出一个合理的方案。
但现在的医疗RAG系统能做到这一点吗?
很遗憾,大多数不能。它们被训练成"一个问题只找一个答案"的模式,而临床实践需要的是"多方求证、综合判断"。

我们的核心发现
先说结论。通过构建一对多医疗检索数据集和提出MMRE模型,我们在检索和问答两个层面都取得了显著提升。
检索能力方面,MMRE在5个医学专科上的Recall@10平均提升超过15个百分点,Hit Rate、MRR@10、NDCG@10等指标也有10个百分点以上的提升。其中乳腺肿瘤领域的提升最为明显,Recall@10从50.3%提升到76.6%,提高了26个百分点。
下游问答准确率方面,将MMRE集成到RAG流程后,5个专科的临床问答准确率均有4-8个百分点的提升。乳腺肿瘤领域从77.14%提升到85.71%(+8.57%),心血管领域从78.35%提升到85.57%(+7.22%),眼科从77.78%提升到84.85%(+7.07%)。
这些结果表明,让检索模型学会"多方求证",确实能够显著改善医疗RAG系统的表现。
1 为什么我们要做这项研究
大语言模型在医疗问答领域展现出了很大潜力,但"幻觉"问题始终是个隐患——模型可能生成看起来流畅、实际上却不准确的内容。检索增强生成(Retrieval-Augmented Generation,RAG)通过引入外部知识源,在一定程度上缓解了这个问题。
但我们在实际研究中发现,RAG系统的效果高度依赖检索质量。而现有的医疗检索模型普遍采用"一对一"训练范式——每个查询只配对一个相关文档。
这种训练方式有什么问题?
临床决策往往需要整合多个互补的信息源。比如治疗方案的选择,可能同时涉及诊断标准、用药指南、风险分层和患者管理等不同维度的知识。如果检索模型只学会找"最相关的那一个文档",就很容易遗漏其他同样重要的证据。
更麻烦的是,现有的公开医疗检索数据集也大多是一对一结构,这让我们很难训练出能够捕捉多元证据的模型。
而且这里还有一个更深层的技术挑战:在一对多场景中,同一个查询对应的多个相关文档之间往往语义差异很大。比如关于糖尿病管理,一篇文档讲诊断标准,另一篇讲用药方案,还有一篇讲饮食控制——它们都是正确答案,但内容上并不相似。如果用传统的对比学习方法,试图把这些语义差异很大的文档都拉向同一个查询向量,很容易导致训练不稳定甚至崩溃。
于是我们决定:既然没有合适的数据集,那就自己构建一个;既然传统损失函数不适合多正样本场景,那就设计一个新的。
2 我们做了什么
构建一对多医疗检索数据集
我们从权威临床指南出发,构建了一个覆盖5个医学专科的检索数据集:全科、心血管、皮肤科、乳腺肿瘤和眼科。
整个构建流程是这样的:首先将指南PDF转换为文本,按语义切分成独立的"知识块";然后利用GPT-4o对这些知识块进行主题聚类,为每个主题组生成一个能够覆盖组内所有知识点的临床问题;最后,由两位执业医师独立审核每对查询-文档的医学准确性。
这个双医师验证环节很关键。只有两位医师都认可的配对才会被保留,最终的评分者间一致性达到了Cohen’s κ = 0.835,属于高度一致。经过筛选,我们保留了6273个高质量临床查询,对应约20810个标注文档。
这种"先构建再验证"的方式,与传统的"先收集查询再标注文档"不同。传统方法容易遗漏相关文档,而我们的方法从一开始就确保了查询与多个互补文档的对应关系。
提出MMRE模型和AMR Loss
有了数据集,下一步是设计能够充分利用"一对多"监督信号的模型。
我们提出的医疗多召回嵌入模型(Medical Multi-Recall Embedding,MMRE)采用双塔编码器架构。核心创新在于训练目标——自适应多召回损失(Adaptive Multi-Recall Loss,AMR Loss)。
AMR Loss的设计思想可以这样理解:对于同一个查询,可能有多个相关文档,但这些文档之间的语义相似度是不同的。有些文档内容相近(比如都在讲诊断标准),有些则覆盖不同维度(比如一个讲诊断、一个讲治疗)。
传统的对比学习损失会把所有正样本一视同仁地拉向查询,这容易导致语义多样性的丧失——模型最后只学会找"最像的那几个",而忽略了那些同样重要但角度不同的文档。
AMR Loss通过三个机制解决这个问题:(1)自适应正样本边界,对语义相近的正样本减少优化压力,对语义多样的正样本保持强梯度;(2)难度感知加权,重点关注决策边界附近的样本;(3)损失归一化,稳定训练过程。

3 核心发现:5个专科的问答准确率对比
检索模型的最终价值要体现在下游任务上。我们将MMRE集成到RAG流程中,使用冻结的Qwen2-7B作为生成模型,在5个专科的临床选择题上测试问答准确率。
先看整体结果:
| 专科领域 | 无检索基线 | MMRE+RAG | 准确率提升 |
|---|---|---|---|
| 全科 | 82.65% | 86.73% | +4.08% |
| 心血管 | 78.35% | 85.57% | +7.22% |
| 皮肤科 | 72.50% | 79.10% | +6.60% |
| 乳腺肿瘤 | 77.14% | 85.71% | +8.57% |
| 眼科 | 77.78% | 84.85% | +7.07% |
乳腺肿瘤领域的提升最为显著,达到了8.57个百分点。 这可能与该领域的特点有关:肿瘤诊疗涉及诊断标准、病理分型、治疗方案、风险分层等多个维度,恰恰需要综合多个证据源才能做出准确判断。
与其他检索模型相比,MMRE的优势也很明显。以乳腺肿瘤为例,BCE+RAG和GTE+RAG的准确率都是82.86%,而MMRE+RAG达到了85.71%,领先近3个百分点。
一个具体的例子
为了更直观地展示MMRE的优势,我们来看一道乳腺纤维腺瘤的临床选择题。
题目问的是乳腺纤维腺瘤的临床特征,需要从5个选项中选出正确描述。
没有检索支持时,语言模型缺乏足够的临床细节,无法给出确定答案。使用其他检索模型(如Corom-Medical)时,虽然检索到了一些相关文档,但内容是关于腋窝淋巴结清扫、术中放疗等手术相关知识,并没有直接描述纤维腺瘤的体检特征,导致模型选择了错误答案。
而MMRE检索到的文档明确描述了纤维腺瘤在年轻女性中的典型表现:质地坚韧但有弹性、圆形或椭圆形、表面光滑边界清晰、活动度高不粘连周围组织。有了这些精准的临床描述,语言模型能够逐一比对选项特征,最终正确选择了"质地坚韧、球形、表面光滑、活动度高"的选项。

这个例子说明,检索质量的关键不在于返回多少文档,而在于返回的文档是否切中要害。MMRE通过一对多训练学会了区分不同维度的证据,从而能够为特定问题找到最有诊断价值的信息。
4 我们的思考与展望
为什么"一对多"范式有效
回过头来看,一对多训练范式之所以有效,核心在于它更接近临床实践的真实需求。
医生做决策时,很少只依赖单一信息源。即使是看似简单的诊断问题,也可能需要综合症状描述、鉴别诊断、检查指标等多个维度。传统的一对一训练让模型学会了"找最像的",但临床需要的是"找最有用的、最全面的"。
AMR Loss的设计也体现了这个思想:不是把所有正样本都拉到同一个点,而是保留它们之间的语义差异,让模型学会在多样性中找到互补性。
对医疗RAG产品设计的启示
这项研究对医疗RAG系统的设计有一些启发。
首先,检索模型的训练数据结构很重要。如果训练数据本身就是一对一的,模型很难学会多证据检索。构建高质量的一对多标注数据集是提升检索效果的基础。
其次,损失函数的设计需要匹配任务特点。通用的对比学习损失不一定适合医疗场景,针对多正样本、语义多样性等特点设计专门的训练目标,可能带来显著收益。
最后,检索和生成需要协同优化。好的检索器能够为生成模型提供更丰富、更准确的上下文,从而提升最终的问答质量。
后续研究方向
这项工作还有一些可以继续探索的方向。
一是多模态扩展。临床决策不仅涉及文本,还包括医学影像、检验结果、时序数据等。将MMRE扩展到多模态场景,可能进一步提升其实用价值。
二是交互式检索。对于复杂的多维度查询,单轮检索可能不够。让系统能够进行多轮检索、迭代聚焦,是一个有意思的方向。
三是更多专科的验证。目前我们覆盖了5个专科,后续可以扩展到更多领域,进一步验证方法的泛化性。
5 写在最后
回到开头的问题:如何让医疗RAG学会"多方求证"?
我们的答案是:从数据和训练目标两个层面同时入手。构建一对多的医疗检索数据集,让模型有机会学习多证据检索;设计AMR Loss,让模型在优化过程中保留语义多样性。
这项工作的意义不仅在于提升了几个百分点的准确率,更在于提供了一种新的思路:医疗AI系统的设计需要更贴近临床实践的真实需求。医生综合多方信息做判断,AI系统也应该学会这种能力。
你在使用RAG系统时遇到过"检索不全面"的问题吗?欢迎在评论区分享你的经历和想法。
学AI大模型的正确顺序,千万不要搞错了
🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!
有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!
就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!
我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~
这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

208



被折叠的 条评论
为什么被折叠?



