15、人工智能学习与NIPS会议的发展历程

人工智能学习与NIPS会议的发展历程

1. 生物学习与人工智能学习的关联

西雅图华盛顿大学的研究发现，鸣禽学习与幼儿语言能力的出现有诸多相似之处。鸟类的音节和婴儿的音素都是先通过听觉学习声音，之后才进行运动学习，鸟类表现为亚鸣唱，婴儿则是咿呀学语。大脑中有许多特定领域的学习和记忆系统，它们共同协作以获取新技能。例如，鸣禽学习鸟鸣的强化学习算法，以及猴子、人类、蜜蜂等动物奖励系统中的时间差分学习算法，只是众多算法中的两种。

除了上述学习形式，尽管在实现一些认知功能自动化（如视觉和听觉）方面取得了进展，但人工智能在人类智能的其他方面仍需进步。大脑皮层的表征学习与基底神经节的强化学习相互补充。人类的许多学习基于观察和模仿，相比深度学习，我们只需更少的示例就能识别新物体。未标记的感官数据丰富，强大的无监督学习算法可以在有监督学习之前利用这些数据。无监督学习是机器学习的下一个前沿领域，我们才刚刚开始理解类脑计算。

大脑有许多学习系统和多种可塑性形式，它们协同工作。仅在大脑皮层中，就有几十种可塑性形式，包括神经元兴奋性和增益的可塑性。一种特别重要的突触可塑性是稳态可塑性，它确保神经元的活动水平维持在最佳动态范围内。当突触强度降为零或达到最大值时，可能导致神经元无法获得足够输入以达到阈值，或者接收过多输入而始终处于高活动水平。吉娜·图里贾诺发现了一种新的突触可塑性形式，它能使神经元上的所有突触归一化，以维持神经元活动的平衡。如果平均 firing 率过高，所有兴奋性突触强度会降低；如果过低，则会升高。对于抑制性输入，情况相反。类似的归一化形式在模拟大脑神经图谱的发展中已被证明是有效的，由随机梯度下降驱动的人工神经网络可以从稳态缩放中受益。

大脑神经元膜上有数十种电压敏感和配