The opportunities and risks of large language models in mental health

本文是LLM系列文章，针对《The opportunities and risks of large language models in mental health》的翻译。

摘要

全球心理健康问题的发生率正在上升，人们越来越意识到现有的心理健康模式将无法充分扩展以满足需求。随着大型语言模型（LLM）的出现，人们对其创造新的、大规模的解决方案来支持心理健康的承诺感到非常乐观。尽管LLMs是新手，但它们已经被应用于与心理健康相关的任务。在这篇综述中，我们总结了关于使用LLM提供心理健康教育、评估和干预的现有文献，并强调了在每个领域产生积极影响的关键机会。然后，我们强调了LLM应用于心理健康的相关风险，并鼓励采取策略来减轻这些风险。对心理健康支持的迫切需求必须与负责任的心理健康LLM的开发、测试和部署相平衡。特别重要的是确保心理健康LLM针对心理健康进行微调，提高心理健康公平性，遵守道德标准，并确保人们，包括那些有心理健康问题生活经验的人，参与从发展到部署的所有阶段。优先考虑这些努力将最大限度地减少对心理健康的潜在危害，并最大限度地提高LLM对全球心理健康产生积极影响的可能性。

结论

对心理健康服务的需求是紧迫的，LLM扩大获得心理健康信息和心理保健的机会的潜力是巨大的。LLM发展迅速，已应用于心理健康教育、评估和干预。特别有希望的是LLM提供心理健康教育和评估的潜力，这些任务与LLM的优势非常一致。LLM在相关任务方面取得了非凡的进展，如回答医疗问题和评估医疗状况，达到并在某些情况下超过了人类临床医生的表现。在将LLM应用于心理健康干预时，需要更加谨慎，但也有理由乐观地认为，LLM最终可能有助于支持或增加人类提供的心理健康治疗。
有效参与心理健康任务的关键是专门针对心理健康领域以及公平、安全、循证实践和隐私的优先顺序对LLM进行微调。没有广泛使用的通用LLM经过心理健康方面的微调，没有经过循证心理健