21、新闻媒体大数据情感分析技术解析

新闻媒体大数据情感分析技术解析

1. 深度学习在情感分析中的应用

1.1 深度神经网络（DNN）

在深度神经网络中，第三层“输出单元”会计算所有类别或标签的分布概率。假设DNN的最后一层为z，共有K个类别或标签，那么类别i的概率可以通过Softmax函数来估计：
[y_i = \text{softmax}(z_i) = \frac{e^{z_i}}{\sum_{k = 1}^{K}e^{z_k}}]
在检测方面类别时，DNN中标签的属性可以被指定为二元组 (T = [\text{非类别}, \text{类别}])。而在识别情感极性时，极性属性可以设置为 (T = [\text{积极}, \text{中性}, \text{消极}])。对于方面提取、分类以及情感极性识别，DNN模型会在输出层返回概率，将目标标签分配给每个输入层。经过神经网络计算后，概率最高的标签即为预测结果。

DNN的训练过程采用反向传播算法，即反向计算所有权重参数的梯度。这意味着权重参数由后续神经元计算得出，并通过随机梯度下降法为前一个神经元进行更新。设输入为 (x = [x_1, x_2, \cdots, x_n])，机器学习算法的输出为 (y = [y_1, y_2, \cdots, y_n])，预测输出为 (\hat{y} = [\hat{y} 1, \hat{y}_2, \cdots, \hat{y}_n])。机器学习算法的目标是计算函数 (y = f(x))，以比较正确输出和预测值。在训练过程中引入损失函数来估计数值损失分数 (L)，即预测输出 (\hat{y}) 与实际输出 (y) 之间的差异。DNN整个训练过程的损失函数为：
[L(\theta) = \fr