65、情感检测模型的局部可解释性研究

情感检测模型的局部可解释性研究

1. 引言

在自然语言处理中，情感分析是一个重要的研究领域。随着社交媒体的发展，大量的用户意见被产生，使得情感分析在研究和商业领域都变得非常流行。然而，许多模型的预测过程如同黑盒，难以理解其决策依据。为了解决这个问题，模型无关的解释方法，如局部可解释模型无关解释（LIME），被广泛应用于文本分类问题，特别是情感分析。

2. 方法

2.1 分类方法

为了比较情感分析的结果，研究考虑了四种在IMDB评论数据集上训练的分类方法，这些方法的分类结果可以是积极或消极的。
- 随机森林 ：由许多决策树组成的分类算法。在构建每棵树时使用装袋和特征随机性，以创建一个不相关的树森林，其预测比任何单个树都更准确。在处理大量来自在线购物、电影评论、YouTube和Twitter社交媒体的情感时，随机森林表现出了良好的性能。然而，信任其预测和解释结果仍然是主要问题。
- 多项朴素贝叶斯 ：由于其处理速度快和高效性，是各种分类问题中最受欢迎的算法之一。该算法使用统计方法根据属性计算类的概率，然后找到最高概率值将数据分类到最合适的类别。多项朴素贝叶斯方法适用于具有离散特征的分类，如文本分类中的词频。它考虑词频并根据输入文本计算每个标签的概率。
- 双向LSTM ：双向循环神经网络（BRNN）的一种，它可以利用特定时间框架内过去和未来的所有可用输入信息进行训练。双向LSTM网络（BiLSTM）是为解决RNN在长序列中梯度消失的问题而提出的。它能够通过处理前向和后向依赖关系从特征序列中提取上下文信息。在本研究中