深度学习仍然存在的局限性

前言

1. 在微信公众号《量子位》上看到一篇有关深度学习的文章，觉得有道理，现将其中的重点摘抄为下文。
2. 量子位的这篇文章名为《这十大挑战，摆在DL面前：马库斯长文质疑深度学习》，该文是根据纽约大学心理学教授、神经科学教授马库斯(Gary Marcus)在arXiv上的论文撰写的。

正文

1. 依赖大量数据。
2. 训练出的结果对相似场景的应用性不好（迁移能力差）。
3. 对特征具备复杂层级关系的应用领域不能自然处理。
4. 开放式推理能力差（意思是无法基于现实知识进行推理，这一点我曾在其他地方看到一篇论文讨论过这种情况，遗憾的是那篇论文仅仅指出人类的推理能力实际上是基于一个现实知识的先验数据库，并未针对深度学习如何提高推理能力做出解释）。
5. “黑箱”性质。
6. 先验知识难以整合（和第4条基本说的是一回事）。
7. 不能区分数据与结论之间是因果关系还是相关关系（这一点Cliff应该有些体会）。
8. 分析具备潜在前提，比如背景环境的高度稳定性（意思是默认数据和结论之间的联系不受外界干扰）。
9. 只能得到一个近似的答案。
10. 难以工程化（如果深度学习可以工程化了，我个人觉得世界将迎来一个崭新的篇章）。