Exploring the Challenges and Opportunities of Large Language Models in Hate Speech Detection

本文是LLM系列文章，针对《Harnessing Artificial Intelligence to Combat Online Hate: Exploring the Challenges and Opportunities of Large Language Models in Hate Speech Detection》的翻译。

摘要

大型语言模型（LLM）在语言生成之外的许多不同应用中都表现出色，例如翻译、摘要和情感分析。一个有趣的应用是文本分类。这在识别仇恨或有毒言论的领域变得至关重要——这是一个充满挑战和道德困境的领域。在我们的研究中，我们有两个目标：首先，提供一篇围绕LLM作为分类器的文献综述，强调它们在检测和分类仇恨或有毒内容方面的作用。随后，我们探讨了几种LLM在对仇恨言论进行分类方面的功效：确定哪些LLM在这项任务中表现出色，以及它们的基本属性和训练。深入了解导致LLM熟练（或缺乏）辨别仇恨内容的因素。通过将全面的文献综述与实证分析相结合，我们的论文试图阐明LLM在仇恨言论检测这一关键领域的能力和限制。

1 引言

2 LLM作为文本分类器或注释器

3 实证分析

4 最佳实践和专业提示

5 结论

在我们的研究中，我们详细了解了仇恨言论分类的语言模型的进展，从LLM之前的时代到GPT等复杂LLM的现代。早期的语言模型通常需要进行重大的微调才能正常工作，但新的LLM，如GPT-3.5和Llama 2，已经表明它们可以有效地识别出一些形式的仇恨言论，即使在零样本和小样本的情况下也是如此。
我们在HateCheck数据集上探索了三种LLM（GPT-3.5、Llama 2和Falcon）的能力，以更深入地了解它们在仇恨言论分类方面的能力和挑战。从我们的实验中，有几个关键点很突出：GPT-3.5和Llama2总体上相当有效，