Towards Understanding Counseling Conversations: Domain Knowledge and Large Language Models

本文是LLM系列文章，针对《Towards Understanding Counseling Conversations:Domain Knowledge and Large Language Models》的翻译。

摘要

了解咨询对话的动态是一项重要任务，但无论基于Transformer的预训练语言模型最近取得了什么进展，这都是一个具有挑战性的NLP问题。本文提出了一种系统的方法来检验领域知识和大型语言模型（LLM）在更好地代表危机咨询师和寻求帮助者之间的对话方面的功效。我们的经验表明，最先进的语言模型，如基于Transformer的模型和GPT模型，无法预测对话结果。为了给对话提供更丰富的上下文，我们结合了人类注释的领域知识和LLM生成的特征；领域知识和LLM特征的简单集成将模型性能提高了约15%。我们认为，当咨询会话被用作会话的附加上下文时，可以利用领域知识和LLM生成的特征来更好地描述咨询会话。

1 引言

2 咨询会话分析

3 模型

4 实验设置

5 讨论

6 相关工作

7 结论

我们研究了危机咨询师和寻求帮助者之间的对话动态。基于Transformer的模型和ChatGPT无法预测寻求帮助者在对话后是否感到积极。为了更好地描述咨询对话，我们整合了特定领域的知识、识别咨