19、安全物联网的半监督深度学习方法

安全物联网的半监督深度学习方法

1. 半监督自编码器方法

1.1 潜在编码表示算法的优势

潜在编码表示算法对高效的半监督解决方案具有重要价值，原因主要有以下几点：
- 提供了一种将未标注数据纳入训练的常规方式。
- 能够通过潜在特征的配置提取数据的表示。
- 支持变分网络的使用。

1.2 变分自编码器（VAEs）

变分自编码器（VAEs）是一种弹性网络，它将自编码器和生成潜在空间算法结合在一起。生成网络对数据分布的内在表示进行建模，而不是对数据观测进行建模，其联合分布表示为 ( p(x, z) = p(z)p(x|z) )，其中 ( p(z) ) 表示潜在表示 ( z ) 的先验分布。由于正确的后验 ( p(x, z) ) 通常难以计算，生成网络的训练借助估计的后验分布 ( q(x, z) ) 进行。VAEs 的结构设计遵循两阶段网络，编码器子网络构建对后验 ( p(x, z) ) 的变分近似 ( q(x, z) )，解码器子网络用于正则化概率 ( p(x, z) )。

1.3 半监督 VAEs（SSVAEs）

SSVAE 方法基于生成深度网络提供半监督解决方案，使用两个基于 VAE 的生成网络从输入数据中学习潜在表示。潜在特征空间的判别器网络 ( M1 ) 可以利用生成深度网络提供更强大的潜在表示。其中 ( p_{\theta}(x, z) ) 表示非线性扰动，即深度模型。隐藏特征空间 ( z ) 可以指定为伯努利或高斯分布。潜在特征的后验分布估计 ( q_{\varnothing}(x, z) ) 用作针对类别 ( y ) 的特征分类器。生成半监督网络 ( M2 ) 定义了由