AI与药学：ChatGPT在抗感染治疗中的应用与挑战

欢迎关注公众号“赛文AI药学”！

近年来，生成式人工智能（Generative AI）的迅速发展，尤其是大语言模型（LLM）的应用，为医疗领域带来了前所未有的可能性和挑战。ChatGPT，作为一种典型的生成式人工智能工具，模拟自然语言并解决认知问题，其医疗应用能力尤其引人关注。然而，本研究（《ChatGPT and antimicrobial advice: the end of the consulting infection doctor?》）表明，ChatGPT在抗感染治疗咨询中的表现仍存在明显局限性。

ChatGPT在抗感染治疗建议中的表现

ChatGPT在处理八个假设性感染场景中的表现显示，其能够在一定程度上理解自然语言，并在明确提供关键信息的情况下给出适当的抗感染治疗建议。这些假设场景涵盖了不同的用药场景，从常见感染到复杂多重耐药菌感染，其回答通常以准确的场景总结开头，随后提供管理选项，并以免责声明结束，建议寻求感染专科医生的进一步意见。这种结构化回答形式反映了其信息来源多为患者信息网站等公开资源。

在抗感染治疗的具体建议方面，ChatGPT在以下几个方面表现出优势：

1. 抗感染选择的合理性：在明确的用药场景下，ChatGPT能够根据诊断提供适当的抗感染药物及其作用范围，并识别某些复杂情况下的临床反应。例如，对于社区获得性肺炎的场景，ChatGPT能够推荐一线药物如阿莫西林，但对于复杂的院内感染则可能推荐更广谱的药物如哌拉西林-他唑巴坦。

2. 基础抗感染管理原则：其回答通常强调抗感染管理中的基本原则，如只有在存在细菌感染证据时才建议使用抗生素，这对于避免抗菌药物滥用具有积极意义。

3. 语言表达的连贯性：ChatGPT的回答在拼写和语法上连贯，其含义清晰，便于理解。这在涉及复杂药物组合的场景中尤为重要。

存在的主要问题

尽管ChatGPT在某些方面表现出色，但其在用药场景中的应用仍面临多重挑战。这些问题包括：

1. 情境感知能力不足：随着病例复杂性的增加，ChatGPT未能有效区分重要和不重要的情境因素。例如，在败血症治疗的场景中，ChatGPT未能识别关键的患者安全线索（如血流动力学不稳定），导致其建议出现重大偏差。

2. 推理与一致性问题：

   • ChatGPT在重复询问时可能提供不一致的建议。例如，在尿路感染的场景中，其初次建议可能为口服抗生素，而后续建议却更改为静脉注射抗生素，缺乏统一性。

   • 在某些情况下，其抗感染疗程建议的时长不准确，如错误引用感染源控制的必要性，导致疗程过长或过短。

3. 危险性建议与失败模式：研究发现，ChatGPT在某些情况下会反复提供危险的建议，即使经过多次提示也未能纠正。例如，在涉及药物禁忌症的场景中，ChatGPT可能忽视患者既往过敏史，推荐使用高风险药物。

4. 抗感染选择的局限性：虽然ChatGPT在识别抗感染禁忌症方面有一定能力，但其识别的准确性与禁忌症的重要性并不完全相关。例如，在多重耐药菌感染的场景中，ChatGPT可能推荐未覆盖相关病原体的药物。

临床应用的障碍与建议

ChatGPT目前在抗感染治疗中的最大障碍在于情境感知、推理能力及回答一致性的不足。这些缺陷可能会对患者安全构成威胁，尤其是在复杂用药场景中，其对细节的忽视可能导致不适当的治疗建议。此外，ChatGPT对抗感染管理的理解似乎主要集中于药物选择本身，而对其他关键管理策略（如感染源控制、联合治疗方案）的关注较少。

为推动ChatGPT及类似LLM在临床中的安全应用，研究团队提出了一种适用于不同医学专科的可修改质性评估框架。该框架可用于评估ChatGPT在具体用药场景中的表现及安全性，同时也为未来模型的优化提供了依据。

展望与总结

随着LLM的快速发展，未来生成式人工智能在医疗中的应用前景广阔。然而，为了确保其应用的安全性和有效性，医疗界需要加强跨学科合作，特别是人工智能与医学领域的深度融合。本文强调，具有人工智能与专业医学知识的临床医生将在理解这些技术对患者护理的影响中起到至关重要的作用。

总之，尽管ChatGPT在抗感染治疗咨询中的表现具有一定潜力，但其在用药场景中的情境感知、推理能力及一致性方面的不足限制了其在复杂临床环境中的应用。我们建议医疗从业者密切关注这一技术的发展，并持续评估其对临床实践的影响，以确保患者安全。

参考文献

1. Gilson A, Safranek CW, Huang T, et al. How does ChatGPT perform on the united states medical licensing examination? The implications of large language models for medical education and knowledge assessment. JMIR Med Educ 2023; 9: e45312.

2. Stokel-Walker C, Van Noorden R. What ChatGPT and generative AI mean for science. Nature 2023; 614: 214–16.

3. Roosan D, Samore M, Jones M, Livnat Y, Clutter J. Big-data based decision-support systems to improve clinicians’ cognition. 2016.

4. Bashshur R, Doarn CR, Frenk JM, Kvedar JC, Woolliscroft JO. Telemedicine and the COVID-19 pandemic, lessons for the future. Telemed J E Health 2020; 26: 571–73.

5. Ratnaraja NVDV, Davies AP, Atkins BL, et al. Best practice standards for the delivery of NHS infection services in the United Kingdom. Clin Infect Pract 2021; 12: 100095.

往期内容荐读：

数智药学的崛起：人工智能赋能药学新未来

数智药师：AI时代药学服务的引领者

智能决策助力药物安全：大模型在临床处方审核中的突破

数字人技术在药学服务中的应用

药师必备：掌握AI，引领药学服务新时代

LEADER - 大模型蒸馏的药物推荐模型

李新刚：《医院药学的创新引擎：ChatGPT的应用与思考》

ChatGPT 在临床药学中的有效性以及人工智能在药物治疗管理中的作用

评估大语言模型在药物基因组学问答任务中的表现：PGxQA

DDI-GPT：使用知识图谱增强的大模型对药物相互作用进行可解释的预测

生成式AI：药学科普的新引擎

诺奖得主David Baker最新Science论文：药学+AI领域迎来新机遇！

AI与药学：ChatGPT与临床培训——药学博士（Pharm-D）学生的看法、担忧和实践

人工智能大模型在用药处方审核的应用潜力：一项跨 12 个临床专科的前瞻性研究

生成式人工智能在中医药学教育中的应用与挑战

PharmacyGPT: AI赋能精准ICU药物治疗

数智药学：信息药师向AI药师的进化

AI用于研究药物扩大适应症：大模型架起药物分子结构与适应症的桥梁

欢迎关注公众号“赛文AI药学”！

赛文AI药学，致力于探索人工智能在药学场景中的创新与应用。