78、基于 BERT 和深度学习模型的孟加拉语仇恨言论检测

基于 BERT 和深度学习模型的孟加拉语仇恨言论检测

1. 相关研究

过去，通过深度学习模型识别仇恨言论的研究众多，但采用基于变压器的方法的研究较少。下面将介绍在孟加拉语及其他语言领域的相关研究。

1.1 其他语言的相关研究

早期识别仇恨言论的资源建设主要集中在英语。为创建多语言仇恨言论数据集，近期举办了多个共享任务竞赛，如 HASOC、OffensEval、TRAC 等，还创建了印地语、丹麦语、希腊语、土耳其语、墨西哥西班牙语等多种语言的数据集。同时，也在探索如何识别孟加拉语中的仇恨言论。

早期对辱骂性语言的研究，多聚焦于从在线消息中提取词汇和句法元素以识别辱骂者。近年来，自动仇恨言论识别领域取得了显著进展。例如，Davidson 等人致力于区分 Twitter 上的冒犯性和仇恨性内容，使用了多种分类器研究 n - 元语法、情感词典、词性标签和 TF - IDF 向量。2016 年，Zeerak 等人增加了一个包含数千条被分类为种族主义和性别歧视标记的消息的数据集。不过，尽管有许多数据集可用，但质量和完整性不足仍是重要问题。

1.2 孟加拉语的相关研究

近年来，由于缺乏足够的数据集，开展大规模孟加拉语仇恨检测项目颇具挑战。虽然网上有一些数据集，但它们稀疏、排序不佳且缺少关键数据类型。近年来仅有少数相关论文发表，如 Romim 等人收集了来自 YouTube 和 Facebook 的 30000 条孟加拉语评论，其中包含 10000 条仇恨言论，运行了包括 Word2Vec、FastText 和预训练的 BengFastText 在内的多个深度学习模型，实验表明支持向量机（SVM）的准确率最高，达到 87.5%。