清华施路平团队新研究登上《自然》，提出类脑计算系统新框架

大数据文摘出品

来源：Nature

 

很大程度上，下一代高性能、低功耗的计算机系统是来自大脑的启发。作为最精密的“通用智能体“，大脑运转层次结构的研究对于计算机性能的快速增长有着重要的启发作用。

 

10月14日，在最新一期《自然》杂志中，发布了清华大学施路平团队的一项新研究，在类脑计算通用系统层次结构方面取得了新进展，该层次结构将算法的要求及其在一系列神经形态系统上的实现形式化，从而为研究的结构化方法奠定了基础。

       

论文链接：

https://www.nature.com/articles/s41586-020-2782-y

 

清华大学教授、清华大学类脑计算中心主任施路平和清华大学计算机系研究员张悠慧共同担任了该论文的通讯作者。

 

摩尔定律后时代，将算法和硬件开发脱钩

 

这一结构化方法可以分别设计用于大脑启发型计算机的算法和硬件。

 

论文中提出了一种全新的系统层次结构，这一结构包括软件、硬件和编译三个层次，具有图灵完备的软件抽象模型和通用的抽象神经形态结构。

 

在过去50年中，根据摩尔定律，传统数字计算机的性能得到了提高。摩尔定律指出，技术进步将使集成电路（微芯片）大约每18-24个月性能提升一倍。但是，尽管这些进步使硬件变得更加强大，但它们也给那些希望在这些不断变化的设备上优化算法性能的系统架构师带来了挑战。

 

传统计算机设计的一个重要特征是软件和硬件开发之间缺乏紧密耦合，这使得新设备(芯片、内存等)能够获得最佳性能。通过设置对硬件的最低要求，将用高级语言编写的软件程序转换成任何机器所需的精确等效的指令序列（称为编译过程）变得可行（图1）。支持在此编译过程中使用代表基本计算操作的指令的计算机被称为具有图灵完备性。因此，软件代码通常只编写一次，然后可以在多种具有图灵完整功能的处理器体系结构上进行编译和执行，以产生等效的结果。

              

但是，众所周知，以摩尔定律为特征的进步时代即将结束：数字计算机功能的发展速度似乎正在放缓。此外，数字计算可能会消耗大量能源，人们因而正在寻找替代方案。长期以来，科学家一直对大脑的计算能力着迷，大脑不仅具有惊人的能源效率，而且由于其神经元和突触的结构而具有独特的信息处理性能。这启发了神经形态计算领域，该领域的研究领域以大脑中神经网络的体系结构为下一代计算机的基础。

 

神经形态计算的重点通常集中在尖峰神经网络上，即相互连接的人工神经元系统，其中每个神经元的激活水平达到阈值时，都会表现出短暂的“尖峰”活动。相比于现代深度学习应用中通常使用的人工神经网络，这样的系统更类似于生物神经网络。

 

目前，神经形态硬件已经以多种格式生产，包括数字和模拟格式。然而，大多数系统共享共同的设计原理，例如存储器和处理器的共置。

 

开发神经形态硬件应用程序的研究人员面临的挑战是，目前尚不存在诸如图灵完整性之类的正式层次结构，当前的芯片体系结构中，每个芯片都需要一个自定义软件工具链（一组编程工具）以定义算法，并将它们映射到唯一的硬件上来执行命令。这就很难比较执行相同算法的不同神经形态系统的性能。

 

同时这种芯片体系下，研究人员了必须解算法和硬件的所有内容，才能获得潜在的类似于大脑的性能。

 

提出“神经形态完备性的概念”

 

现在，清华张悠慧研究团队在这一研究中，提出了一个称为神经形态完备性的概念，并给出了一个突破性的解决方案，能够基本具备图灵完备性，旨在将算法和硬件开发脱钩。

 

为了脱离传统计算机的层次结构，作者提出，如果一个大脑启发的系统能够以给定的准确度执行给定的一组基本操作，则它是“神经形态完备的”（neuromorphic completenes）。这也颠覆了之前的传统概念，即仅当系统为给定的一组基本操作提供准确且等效的结果时，才可以将系统定义为“完备的”。

 

拟议的神经形态完全框架中的基本运算包括两个称为加权和运算和逐元素整流线性运算，它们使硬件系统能够同时支持尖峰和非尖峰人工神经网络。在论文中，作者展示了他们的大脑启发式计算层次结构，如何为将给定算法转换为适用于一系列神经形态完整设备的形式提供了一种机制。

 

其中，这个全新的层次结构一个重要的特征是，提出了一个完整的连续性，也就是说，它可以接受不同级别的算法性能，具体取决于神经形态系统执行基本操作的准确性。这种完整性的连续性意味着，可以使用整个可用的模拟和数字神经形态系统（包括那些牺牲执行速度或能源效率的准确性的系统）实现。

 

不仅如此，这种完整的连续性还允许在同一硬件上运行不同算法。例如，探索如何在算法精度与芯片尺寸之间进行权衡，以实现降低功耗。

 

在三项任务，“驾驶”无人自行车，模拟鸟群的运动并执行称为QR分解的线性代数分析中，张悠慧团队等人对此进行了证明。这三项任务，每个都需要使用三个典型的神经形态完整硬件平台，分别为，作者自己的神经形态芯片、传统计算机中使用的图形处理单元（GPU）、以及一个基于称为忆阻器的设备的平台。

 

这种层次结构受到强烈追捧的原因还在于，它可以实现同一算法的等价版本在不同硬件平台的比较，以及在同一硬件上的不同算法的比较。这对于神经形态架构起着有效基准测试的作用。

 

在原理证明实验中，传统的图灵完备硬件（GPU）也非常有价值，这表明了该层次结构可以潜在地用于证明，在某些应用中神经形态设备优于主流系统的神经形态设备。

 

除此之外，另一个实质性好处在于，这种结构还具有将算法和硬件开发划分为独立研究流的潜力。如果要获得潜在的神经形态体系结构的好处，算法的规模和复杂性将随着时间的推移而增加，因此，这种分裂将有助于研究人员专注于研究问题的特定方面，而不是试图从头到尾找到完整的解决方案，这可能会导致更好地理解这些问题，并在将来应用于性能更高的神经形态系统的设计中。

 

要使许多工业和学术研究小组在神经形态计算领域所做的工作团结起来，还有许多工作要做。施路平团队提出的层次结构是朝这个方向迈出的坚实一步。

 

实际的大脑，也就是生物学上的“硬件”，其本身是否具有神经形态，还有待观察，但是作者的方法无疑推动了”类大脑“的计算研究。

 

继“天机芯自行车”登上自然封面后，施路平团队对AGI研究又一推动

 

去年， 施路平团队曾携一台装有“天机芯片”的无人驾驶自行车登上《自然》杂志的封面。当时施路平教授表示，虽然这还是非常初步的一个研究，但或许能够推动通用人工智能（AGI）计算平台的进一步发展。

       

自行车能够按照声音命令改变方向或调整速度

 

“天机芯片”是世界上首款异构融合类脑芯片，并通过自动驾驶自行车成功验证了通用智能的可行性。本次研究是清华大学的类脑计算研究近期第三次被自然杂志收录。而这次最新的研究成果则是施路平团队在类脑计算与通用人工智能领域的进一步探索。

 

相关报道：

https://www.nature.com/articles/d41586-020-02829-w