28、人工智能与神经科学前沿知识概览

人工智能与神经科学前沿知识概览

1. 认知科学与神经网络基础

认知科学领域有诸多重要的发展。UCSD的认知科学系由人类因素和工效学专家Don Norman创立，其教师团队多元化。在神经网络学习算法方面，反向传播学习算法所用的数学知识早在20世纪60年代的控制理论文献中就已出现，但将其应用于多层感知器产生了巨大影响。

1.1 反向传播算法相关

反向传播算法的应用在神经网络发展中意义重大。D. E. Rumelhart、G. E. Hinton和R. J. Williams在1986年发表的 “Learning Representations by Back-Propagating Errors” 对该算法进行了阐述。同时，Michael Jordan在2017年5月2日于UC伯克利的西蒙斯计算理论研究所发表了关于现代随机梯度下降的重要演讲 “On Gradient-Based Optimization: Accelerated, Distributed, Asynchronous, and Stochastic”。

1.2 神经网络的有趣应用

神经网络有许多有趣的应用实例。例如，C. R. Rosenberg和T. J. Sejnowski开发的并行网络能够学习朗读英语文本，相关学习不同阶段的网络发音录音可从 http://papers.cnl.salk.edu/~terry/NETtalk/nettalk.mp3 下载。此外，M. S. Seidenberg和J. L. McClelland提出了单词识别和命名的分布式发展模型；N. Qian和T. J. Sejnowski利用神经网络模型预测球状蛋白质的二级结构。