连载翻译 | 流形学习的数学基础-2基础

深度学习的降维过程实质上是学习高维数据的流形结构，常用的卷积神经网络产生特征后，即可以接全连接神经网络，也可以用其他机器学习方法，这个过程是学习概率分布，所以说端到端的深度学习算法是模糊了这两个过程，概率分布的学习目前已经有了较多的方法，但是深度学习对流形结构的学习和降维目前的约束和认识是非常弱的，因此有必要将流行正则化框架融入到目前的深度学习框架中。

博客：

https://blog.youkuaiyun.com/weixin_38817895/article/details/110505860

推荐阅读：连载翻译 | 流形学习的数学基础-1介绍

理解机器学习算法的第一步是定义我们的学习问题。在本章中，我们将只在监督环境下工作，一般遵循[20，81，84]的方法。第五章将把这里开发的框架扩展到半监督学习中。

例(依赖数据)：图像分类；在处理图像等专门领域时，我们可以将额外的归纳偏差纳入我们的正则化框架。例如，我们希望一张图像无论稍加旋转、裁剪或沿垂直线翻转，都能被归入同一类别。

最近在视觉表示学习方面的工作采用了这些变换来定义新的正则化函数。例如，[105]引入了一个正则化项，对函数在图像和同一图像的增强版本上的预测之间的差异进行惩罚。

欢迎扫码关注：