38、模拟忆阻HTM学习与忆阻突触耦合霍普菲尔德神经网络的多稳态模式

模拟忆阻HTM学习与忆阻突触耦合霍普菲尔德神经网络的多稳态模式

1. 模拟忆阻HTM学习

1.1 可扩展性

为了构建适用于更复杂应用的大型学习系统，需要对存储设备和处理电路进行扩展。与基于CMOS的实现方式相比，忆阻器突触由于尺寸小，更容易进行扩展，而CMOS实现方式的扩展存在一定的局限性。此外，基于忆阻器的模拟HTM架构由于尺寸小且功耗低，有可能集成到边缘设备中，用于近传感器处理。

1.2 存在的问题

尽管在模拟学习电路和模拟硬件中实现HTM方面取得了一定进展，但该领域仍存在许多未解决的问题。例如，实现用于更复杂问题的大规模分层片上HTM是一个挑战，因为缩小架构有助于在低功耗边缘设备上实现，而不是在功耗高的GPU和CPU上。目前，虽然在模拟领域有几种HTM的实现，但基于模拟计算的完整分层HTM架构以及序列学习尚未实现。同时，基于忆阻器的HTM架构也存在一些局限性，如忆阻设备的级别数量有限、设备变化、电阻状态的非线性分布以及设备老化等问题，需要在忆阻HTM硬件中解决。

1.3 解决方案

针对上述问题，已经提出了一些解决方案。例如，最近已经制造出具有超过100个忆阻状态的设备；提出了考虑变化和抗老化的设计和架构；还展示了用于神经网络的量化方法，以减少忆阻状态非线性分布的影响。

1.4 模拟反向传播学习的应用

将模拟反向传播学习集成到忆阻HTM架构中具有一定的优势。在具有基于HTM空间池化器的特征提取和传统学习的模式匹配分类架构中，应用模拟反向传播学习电路可以更好地识别输入数据的稀疏分布式表示（SDR）。HTM SP用作特征提取器，输出输入数据的SDR，从而可以比处理原