76、社交媒体言语骚扰评论的检测与分析

社交媒体言语骚扰评论的检测与分析

1. 引言

随着社交媒体等计算机媒介的发展，人们能够在虚拟社区中通过产生和交换信息与想法来表达自我。线上交流方式多种多样，如电子邮件、社交媒体、博客平台（如Medium、Tumblr和WordPress）以及各类数字媒体、个人博客、YouTube页面和亚马逊书评的评论区等。在社交媒体中，用户生成的内容，如帖子、评论、高级图像或影片等，是平台的基础，由此形成了一个成员可以交流思想和观点的社交网络。

然而，部分人在评论区使用脏话，这种暴力骚扰行为属于网络欺凌的一种。言语辱骂可能会导致诸如悲伤、焦虑和紧张等心理健康问题。因此，我们期望通过开发的算法，找到一种检测辱骂和暴力言论的机制。

2. 文献综述

2.1 系统综述

近年来，出现了多种监测和检测互联网上沉思或辱骂性内容/行为的策略。以Instagram、YouTube、Yahoo等为代表的社交媒体网络，以及Finance和Yahoo Answers等平台，都在这方面有所涉及。

例如，在YouTube评论中预测用户产生沉思内容的能力并区分辱骂性词汇，采用监督学习分类来发现Yahoo Finance和新闻数据中的异常。在Yahoo Answers上，内容呈现方式较为恰当。不过，相关研究存在一定局限性，比如无法进行成员检查，即与成员分享主题创建以确保主题准确反映参与者的经历。评论者会受到之前评论的影响，系统地生成信息，这与焦点小组信息的生成方式类似，用户生成的内容也是如此。而且，由于这是一个独特的指控和案例，不太知名的成员群体可能会有不同的反应，特别是对于被指控的受害者。

在三个Reddit子版块中，通过主观物质评估方法