6、机器学习：原理、实践与动手体验

机器学习：原理、实践与动手体验

1. 机器学习的模式困境

在尝试让机器复制人类视觉和语言技能时，批量模式（batch mode）受到了广泛关注。但我们不妨思考一下，能否期望一个孩子从包含其一生的视觉数据集中以批量模式学会看东西呢？大多数基于机器学习的计算机视觉方法，实际上都基于这样一个假设，甚至还假定孩子是从一堆打乱的视频帧中学习看东西，这显然与人类的学习过程不符。人类语言的习得也面临类似问题，这表明批量模式可能并非应对类人认知技能挑战的正确方向。

而在线学习模式（online learning mode）看似是对批量模式固有局限性的一种解决方案，但实际上，大多数经典的在线学习公式只是批量模式的近似，它们未必能捕捉到学习任务的自然时间结构。时间在认知中起着至关重要的作用，无论是人类还是机器面临的认知任务，时间维度都对任务的定位起着关键作用。忽略时间的作用，会使当前一些计算机视觉任务的定位比自然赋予人类的难度更大，因为时间为视觉帧提供了顺序，能显著降低推理过程的复杂性。只有在有限的计算机视觉任务中，忽略时间才有一定意义。

2. 注意力焦点与学习策略

2.1 聚焦注意力的重要性

在学习过程中，时间的关键作用不仅体现在对感知数据结构的影响上，还体现在智能体优化学习算法复杂性的机制中。以一个青少年书呆子进入科研实验室为例，起初他会被一些计算机科学关键词吸引，努力理解讨论的主题，但很快他就会发现无法抓住谈话的本质，然后离开实验室回到日常社交中。孩子在面对无法理解的高级话题时，也会采取类似的行为，即逃离复杂的信息源，将注意力集中在他们在认知发展的某个阶段能够具体理解的内容上。

2.2 先易后难策略

当