本文是LLM系列文章,针对《Automatic Summarization of Doctor-Patient Encounter Dialogues Using Large Language Model through Prompt Tuning》的翻译。
摘要
自动文本摘要 (ATS) 是一项新兴技术,可帮助临床医生提供持续、协调的护理。本研究提出了一种使用生成大语言模型(LLM)总结医患对话的方法。我们开发了提示调整算法来指导生成LLM总结临床文本。我们检查了 GatorTronGPT 的提示调整策略、软提示的大小以及短学习能力,GatorTronGPT 是一种生成临床 LLM,使用 2770 亿个临床和通用英语单词以及多达 200 亿个参数开发。我们使用临床基准数据集 MTS-DIALOG,将 GatorTronGPT 与之前基于广泛使用的 T5 模型微调的解决方案进行了比较。实验结果表明,GatorTronGPT20B模型在所有评估指标上均取得了最佳性能。所提出的解决方案具有较低的计算成本,因为 LLM 参数在提示调整期间不会更新。这项研究证明了通过提示调整,生成临床LLM对于临床 ATS 的效率。