Automatic Summarization of Doctor-Patient Encounter Dialogues Using Large Language Model

本文是LLM系列文章，针对《Automatic Summarization of Doctor-Patient Encounter Dialogues Using Large Language Model through Prompt Tuning》的翻译。

摘要

自动文本摘要 (ATS) 是一项新兴技术，可帮助临床医生提供持续、协调的护理。本研究提出了一种使用生成大语言模型（LLM）总结医患对话的方法。我们开发了提示调整算法来指导生成LLM总结临床文本。我们检查了 GatorTronGPT 的提示调整策略、软提示的大小以及短学习能力，GatorTronGPT 是一种生成临床 LLM，使用 2770 亿个临床和通用英语单词以及多达 200 亿个参数开发。我们使用临床基准数据集 MTS-DIALOG，将 GatorTronGPT 与之前基于广泛使用的 T5 模型微调的解决方案进行了比较。实验结果表明，GatorTronGPT20B模型在所有评估指标上均取得了最佳性能。所提出的解决方案具有较低的计算成本，因为 LLM 参数在提示调整期间不会更新。这项研究证明了通过提示调整，生成临床LLM对于临床 ATS 的效率。

1 引言

2 方法

3 实验设置

4 结果

5 讨论和结论

临床 ATS 是一项很有前途的技术，可以帮助临床医生进行临床记录。在这项研究中，我们开发了 NLP 方法来指导LLM通过提示调整将医患对话总结为临床笔记。这种方法具有成本效益，使最终用户免于使用LLM的劳动密集型提示工程过程。我们系统地研究了初始化美德token以进行提示调整的策略、美德token的大小、计算成本以及通过提示调整的 LLM 的小样本学习能力。使用基准临床 ATS 数据集的评估结果表明，所