深度学习第一课课后作业

1. 好的特征具有什么样的性质？机器学习提取特征时存在哪些局限性？
   （1）好的特征具有不变性和可区分性。不变形指的是对大小、尺度和旋转的不变性。比如SIFT特征，HOG特征，这个个可区分性就是特征与特征之间要有一定距离尺度。
   （2）机器学习在特征提取需要人工提取的方法，人工提取需要耗费大量时间，需要一定的专业知识和需要依赖经验，对系统准确性，精度和速度有一定的限制

2. 深度学习借鉴了人脑视觉机理的哪些特点？
   模仿了人的视觉机理，能够分层，抽象迭代。从底层，抽取边缘层特点，从中间抽取对象特点。

3. 特征越多越好吗？特征多带来哪些影响？
   特征不是越多越好，特征越多，可能不利于分类，特征数量是有一个最优值的。

4. 无监督学习和有监督学习的区别是什么？
   有没有人工标注的参与，即有无标签。

5. 为什么需要深层神经网络？
   因为传统的神经网络存在一些问题，BP算法作为传统训练多层网络的经典算法，存在很多问题：
   （1) 梯度越来越稀疏：从顶往下，误差校正信号越来越小；
   （2）收敛到局部最小值：尤其是从远离最优区域开始的时候（随机值初始化导致这种情况的发生）
   （3）一般，我们只能用有标签的数据来训练：但大部分的数据是没有标签的，而大脑可以从没有标签的数据中学习。
   而深度神经网络弥补这些缺点，可以从无标签中进行学习，减少了大量的人力劳动，同时