3、神经网络的复兴：从边缘到主流

神经网络的复兴：从边缘到主流

1. 波士顿会议与早期探索

20世纪80年代中期的一个下午，近二十位学者齐聚波士顿郊外的一座法国庄园式宅邸。当时，马文·明斯基（Marvin Minsky）在人工智能研究界仍颇具影响力。杰夫·辛顿（Geoff Hinton）向与会者分发了一篇关于玻尔兹曼机（Boltzmann Machine）的学术论文。这是一种新型神经网络，旨在克服明斯基十五年前指出的感知机（Perceptron）的缺陷。明斯基在讲座结束后默默离开，留下桌上整齐排列的论文页。

尽管在明斯基关于感知机的著作发表后，神经网络失宠，但辛顿与约翰·霍普金斯大学的特里·谢伊诺夫斯基（Terry Sejnowski）合作构建了玻尔兹曼机。他们属于后来被称为“神经网络地下组织”的一部分，当时其他人工智能研究主要集中在符号方法上。

辛顿认为明斯基是一个既充满好奇心和创造力，又有些孩子气和不负责任的人。例如，明斯基曾教辛顿如何制作“完美的黑色”，但并未实际演示，辛顿也未尝试。辛顿觉得明斯基对神经网络的真实立场并不明确，他将明斯基视为一个“失宠的神经网络研究者”，虽曾对类脑机器失望，但仍抱有一定希望。

2. 辛顿的成长与学术探索历程

2.1 成长背景

杰夫·辛顿出生于二战后的英国温布尔顿，拥有显赫的家族背景。他是乔治·布尔（George Boole）和詹姆斯·辛顿（James Hinton）的曾曾孙，其曾祖父查尔斯·霍华德·辛顿（Charles Howard Hinton）提出的四维概念影响深远，他的叔祖父发明了攀爬架，表妹琼·辛顿（Joan Hinton）是参与曼哈顿计划的少数女性之一。他的父亲是昆虫学家霍华德·埃弗雷特·辛顿（Ho