20、线性与二次联想记忆网络性能分析及量化技术研究

线性与二次联想记忆网络性能分析及量化技术研究

1. 线性与二次网络的存储与容错能力对比

在神经网络领域，高阶联想记忆网络的提出旨在提升网络的存储容量。以Hopfield线性阶联想记忆网络和二次联想记忆网络为例，当神经元数量(N = 42)时，若要使正确召回概率约为(0.99)，线性阶联想记忆网络仅能存储(6)个向量，而二次联想记忆网络却能存储多达(69)个向量，这充分展示了二次联想记忆网络在存储容量方面的显著优势。

然而，二次联想记忆网络的容错能力却远不如线性网络。随着探测向量中错误比特数的增加，网络正确召回的概率会大幅下降。例如，当(N = 42)时，二次联想记忆网络存储(69)个向量时正确召回概率(P_{dc}=0.99)，但当输入向量（即探测向量）中出现(3)个错误比特时，正确召回概率降至(0.7834)；若出现(6)个错误比特，(P_{dc})更是低至(0.1646)。因此，为了在二次联想记忆网络中保证一定的吸引半径范围，需要降低网络的存储量以维持相同的(P_{dc})，否则正确召回概率将急剧下降。

从可靠性或互连故障时的容错能力方面对线性和二次联想记忆网络进行比较，具体情况如下：
- 相同网络大小和初始(P_{dc})条件 ：假设两个网络具有相同的网络大小(N^Q = N^L)，且在(p = 0)时起始(P_{dc})相同，即(P_{dc}^Q = P_{dc}^L)。基于这些条件的比较结果表明，二次网络在互连故障时具有更高的可靠性。
- 相同存储向量数量和初始(P_{dc})条件 ：若两个网络存储的向量数量相同(M^Q = M^L)，且在(p = 0)时起始(P_{dc})