Haibu Mathematical-Medical Intelligent Agent: Enhancing Large Language Model Reliability in Medical

一、文章主要内容总结

1. 研究背景与问题
   • LLMs在处理复杂医疗信息上潜力巨大，可应用于临床决策支持、疾病诊断等领域，但因其概率性本质，存在事实幻觉和逻辑不一致问题，在医疗这类高风险领域难以接受。
   • 现有缓解LLMs不可靠性的方法，如检索增强生成（RAG）、模型微调等，虽能降低错误频率，却无法根除错误，也缺乏对推理过程的形式化验证机制，LLMs的“黑箱”特性阻碍了信任建立。
2. 解决方案：Haibu MMIA架构
   • 核心设计：将每个用户请求视为待证明的“定理”，以LLMs驱动，构建“计划-执行-验证”的递归循环，生成明确、可审计的推理链，而非仅输出答案。
   • 关键组件：包含规划器（分解任务）、执行器（执行子任务）、审计器（验证推理链），审计器从逻辑连贯性、证据可追溯性、推理合理性维度评估推理链，生成审计报告。
   • 知识积累机制：通过“自举”模式，将验证通过的推理链存储为“定理”，后续任务可借助RAG匹配高效解决，实现从高成本推理到低成本验证的转变。
3. 研究方法与实验验证
   • 验证场景：在四个医疗管理关键领域展开验证，分别是DRG/DIP分组审计、医疗器械注册合规审查、电子健康记录（EHR）实时质量控制、复杂医疗保险政策裁定。
   <