多核计算与生物启发的大规模并行计算探索
1. 摩尔定律与多核时代的到来
在过去半个世纪里,摩尔定律推动着计算机基础技术不断前进,让数字技术得以广泛普及。摩尔定律主要通过缩小晶体管尺寸来实现,晶体管越小,成本越低、速度越快且能效越高。不过,这一过程也面临着一些挑战,比如集成电路设计成本和芯片制造设施建设成本的指数级增长。
晶体管尺寸缩小存在物理极限。曾经光刻工艺中使用的光的波长是一个限制因素,但随着技术进步,如将光刻掩模视为衍射光栅、采用多次曝光等方法,这一限制被突破。然而,硅原子的大小和晶体结构中原子间的距离是难以轻易克服的极限,如今晶体管尺寸已缩小到仅由几十个硅原子构成的程度。
尽管更小的晶体管能效更高,但芯片功耗的增加因素众多,如晶体管数量的增加、运行频率的提高,以及近年来出现的漏电问题。随着电源电压降低以抵消功耗增加,晶体管的开关阈值降低,导致晶体管无法有效关闭。
千禧年前后,由于功耗问题,计算机设计发生了重大转变。通过提高时钟速度和使用更复杂的推测机制来提升处理器速度的方法难以为继,于是多核(后来的众核)时代来临,这是工程需求驱动的结果,而非架构优化的选择。
2. 当前的技术现状
如今,多核和众核处理器无处不在,从嵌入式系统到高性能计算机都有应用。晶体管仍在不断缩小且数量增多,但发展速度有所放缓。硬件平台虽在进步,但步伐不如以往。用户能明显感受到技术的进步,不过这更多是因为软件充分利用了过去的硬件进步,而非硬件本身的显著提升。
过去十年,基于神经网络的机器学习应用呈爆炸式增长。深度神经网络和卷积网络成为模式识别的主流算法,广泛应用于网络搜索、语音识别、语言翻译等日常场景。这些神经网络虽源于