7、卷积学习：深度学习的前沿探索

卷积学习：深度学习的前沿探索

1. 机器学习的稳步发展

2000 年，20 世纪 80 年代的神经网络热潮退去，神经网络再次回归到常规科学领域。当时，杰弗里·辛顿（Geoffrey Hinton）于 1987 年迁至多伦多大学，持续对神经网络进行渐进式改进。新世纪初，他成为加拿大高级研究所（CIFAR）神经计算与自适应感知（NCAP）项目的负责人，该项目汇聚了约二十五位来自加拿大及其他国家的研究人员，专注于利用机器学习解决难题。

在机器学习领域，NIPS 会议在 20 世纪 80 年代成为了神经网络的孵化器，并为处理大型高维数据集的其他算法打开了大门。以下是一些重要算法的发展：
- 支持向量机（SVM） ：1995 年，弗拉基米尔·瓦普尼克（Vladimir Vapnik）的支持向量机横空出世，为 20 世纪 60 年代被认为已无发展前景的感知器网络开启了新篇章。其强大的分类能力源于“核技巧”，这一数学变换相当于从数据空间跃迁至超空间，对数据点进行重新映射，使其更易于分离。
- HMAX 网络 ：托马索·波吉奥（Tomaso Poggio）开发了名为“HMAX”的分层网络，能够对有限数量的对象进行分类，这表明更深层次的网络可能会提升性能。
- 图形模型与贝叶斯网络 ：新世纪初，图形模型与基于 18 世纪英国数学家托马斯·贝叶斯（Thomas Bayes）定理的“贝叶斯网络”这一丰富的概率模型相结合。加州大学洛杉矶分校的朱迪亚·珀尔（Judea Pearl）基于贝叶斯分析将“信念网络”引入人工智能领域，并通过开发从数据中学习网络概率的方法对其进行了强化和扩展。