17、智能故障诊断中的自监督学习方法研究

智能故障诊断中的自监督学习方法研究

1 自监督学习关键技术

1.1 正负样本对选取与特征提取

在自监督学习中，会为每个样本选择正负样本对。从同一样本中选取未来对应部分作为正样本对，从不同样本中选取未来对应部分作为负样本对。随后，将锚定部分 (x_{i}^{anc})、正样本部分 (x_{i}^{pos}) 和负样本部分 (x_{i}^{neg}) 输入到骨干网络，分别提取它们的隐藏表示 (z_{i}^{anc}=E_{\theta}(x_{i}^{anc}))、(z_{i}^{pos}=E_{\theta}(x_{i}^{pos})) 和 (z_{i}^{neg}=E_{\theta}(x_{i}^{neg}))。

1.2 时间关系头与伪标签生成

时间关系头 (H_{\mu}(\cdot, \cdot)) 以所有正负表示对为输入，输出一个概率值 (p_{i}^{tem})，用于指示样本对是正还是负。伪标签 (\tilde{y} {i}) 取决于输入样本对的时间关系，具体如下：
[
\tilde{y} {i} =
\begin{cases}
1, & p_{i}^{tem}=H_{\mu}(z_{i}^{anc}, z_{i}^{pos}) \
0, & p_{i}^{tem}=H_{\mu}(z_{i}^{anc}, z_{i}^{neg})
\end{cases}
]
这里，(\mu) 表示时间关系头的参数。

1.3 时间关系损失计算

与实例关系损失类似，选择二元交叉熵（BCE）作为时间关系