34、云与雾中的数据分析、机器学习及物联网安全

云与雾中的数据分析、机器学习及物联网安全

1. 机器学习训练误差与循环神经网络概念

在机器学习的训练过程中，往往存在一些训练无法解决的误差。以TensorFlow训练为例，从左到右观察训练进度，最初水平和垂直原始特征影响显著，经过多个周期训练会逐渐收敛到真实解，但即便经过1531个周期，仍存在训练未收敛到正确答案的误差情况。

循环神经网络（RNN）是机器学习的一个重要领域，与物联网数据紧密相关。它和卷积神经网络（CNN）有很大区别，CNN处理固定大小的数据向量输入，可看作处理二维图像，数据按固定大小单元逐层传递；而RNN输入和输出都是向量，输出向量不仅受当前输入影响，还受之前所有输入历史的影响，这意味着RNN能理解事物的时间特性或保持状态，数据中的信息以及数据发送顺序都能被利用。

2. RNN在物联网中的价值与应用场景

RNN在物联网领域具有独特价值，尤其适用于时间相关的序列数据。例如描述图像场景、分析文本情感、分类视频流等。数据可以以（时间:值）元组的形式从传感器数组输入到RNN。在预测分析方面，RNN可用于发现工厂自动化系统的故障、评估传感器数据异常、分析电表的时间戳数据，甚至检测音频数据中的模式。在工业设备信号分析中，RNN能发现电信号或波中的模式，而CNN在这类场景中表现不佳。RNN可以预测序列中的下一个值，若值超出预测范围，可能预示着故障或重大事件。

3. RNN的神经元结构与训练挑战

RNN的神经元看起来像是自我循环，本质上它是一系列回溯时间的状态集合。将RNN在每个神经元处展开，能清晰看到前一步的输入会作为下一步的基础。然而，RNN系统的训练比CNN或其他模型更具挑战性。CNN使用反向传播来训练和强