7、利用人工智能打击数字媒体中的网络欺凌

利用人工智能打击数字媒体中的网络欺凌

爱尔兰学校的网络欺凌报告方案

在爱尔兰的一些学校，采用人工智能来报告网络欺凌内容。学校在Instagram上设有官方账号，由学校指定的辅导员管理和监督。受害儿童可直接在平台上报告事件，并且学校必须配备辅导员，为学生提供网络欺凌相关指导。

基于人工智能的模型和技术在缓解网络欺凌中的应用

有多种基于人工智能的模型用于自动、高精度地检测和缓解网络欺凌事件：
1. 深度学习模型 ：Kargutkar和Chitre（2020）提出的模型基于深度学习原理，采用多层CNN实现，通过迭代分析获取准确数据进行分析。该模型包括输入层、隐藏层和输出层，会对数据集进行预处理，去除不必要的文本和辱骂性短语。
2. 控制平衡理论模型 ：Lowry等人（2017）开发的模型，运用控制平衡理论从不同角度审视网络欺凌。该模型通过对507名成年人的调查得到验证，旨在理解那些感觉被他人控制、从而产生脆弱感并参与网络欺凌活动的个体。
3. 朴素贝叶斯机器学习模型 ：Nandhini和Sheeba（2015）基于朴素贝叶斯机器学习方法开发的模型，在数据集上的检测准确率达91%。其检测流程如下：
- 输入数据
- 数据预处理
- 特征提取
- 网络欺凌检测
- 朴素贝叶斯分类器

graph LR
    A[输入] --> B[数据预处理]
    B --> C[特征提取]
    C --&g