21、学习理论：从哲学难题到计算解决方案

学习理论：从哲学难题到计算解决方案

学习是一个复杂且充满挑战的过程，在探讨学习效率之前，我们先来看看一些与之相关的哲学难题。

1. 哲学难题引发的思考

• 休谟归纳问题 ：当我们观察到500只黑色的乌鸦时，我们凭什么认为下一只乌鸦也会是黑色的呢？很多人会用贝叶斯定理来解答，但这需要假设所有乌鸦都来自同一分布。如果不假定未来与过去相似，很多事情就难以推进。
• 绿蓝悖论 ：假设我们看到的所有绿宝石都是绿色的，这似乎支持了“所有绿宝石都是绿色”的假设。但当我们定义“绿蓝”为“在2050年之前是绿色，之后是蓝色”时，证据同样支持“所有绿宝石都是绿蓝的”这一假设。
• “加瓦盖”悖论 ：当我们试图学习一门语言时，比如一个人类学家在亚马逊部落，看到一只羚羊跑过，部落成员指着它喊“加瓦盖”，我们可能会认为“加瓦盖”在他们的语言里是“羚羊”的意思，但它也可能指羚羊的角、特定的那只羚羊，甚至是“某只特定的羚羊在某一天跑过”。这表明即使花无限的时间和部落在一起，也可能无法学会这门语言。
• 反归纳星球的笑话 ：有一个星球上的人相信反归纳，如果过去太阳每天升起，那么今天他们就认为太阳不会升起。结果这些人都处于饥饿和贫困之中。当有人问他们为什么还坚持这种哲学时，他们回答“它以前从来没起作用过”。

这些哲学问题似乎暗示学习是不可能的，但实际上学习确实在发生，我们需要解释它是如何发生的。近年来，“计算学习理论”为这个问题带来了新的视角。

2. 计算学习