23、深度学习网络在线性能评估用于轮廓化侧信道分析

深度学习网络在线性能评估用于轮廓化侧信道分析

1. 过拟合与评估指标概述

在深度学习网络中，过拟合是一个常见的问题。当网络开始从训练示例中学习到与泛化无关的特征时，就会发生过拟合。此时，网络的泛化能力下降，虽然在训练集上的预测表现良好，但在验证集上的性能却很差。例如，在侧信道分析中，网络可能会从训练集中学习到噪声模式，而这些噪声与中间值 Z 无关，由于噪声模式是随机的，它们很可能会对新示例的预测产生负面影响。另外，过于复杂的架构也可能导致过拟合，使得网络能够估计比最优函数更复杂的函数。

为了减少过拟合的影响，可以采用一些技术，如数据增强、添加噪声、正则化或选择更合适的架构。

在侧信道攻击中，准确率并不是评估网络性能的合适指标。因为侧信道攻击的范式是通过一组迹来积累关于秘密密钥的信息，而准确率与此范式不同。相比之下，成功率更适合用于评估侧信道网络的性能，因为它基于多个迹的信息积累。

2. 相关工作

猜测熵是评估网络性能的一个合适指标，但它无法深入了解网络的内部状态。它只能评估一组迹的性能，而不能比较训练数据集和验证数据集之间的性能。因此，评估者很难确定模型何时开始过拟合。

为了解决这个问题，有人引入了猜测熵偏差方差分解（GEBVD），通过分别研究猜测熵的偏差和方差的演变，来评估一些超参数对网络性能的影响。高偏差可能表示网络欠拟合，高方差则可能表示过拟合。

而我们的方法不同，我们通过研究网络在训练和验证时的性能来评估给定架构的泛化能力。如果网络可以改进，例如在训练集上的性能远优于验证集时，可以应用正则化来改善网络的训练，以达到更好的性能。我们还研究了训练性能和验证性能之间的联系。