37、机器学习中的监督学习、无免费午餐定理与无监督学习

机器学习中的监督学习、无免费午餐定理与无监督学习

监督学习中的实验与新方法

在计算机视觉领域，研究人员提出了一种在无任何标记样本情况下进行结构化预测的新方法。该方法通过一些实验得到了验证。

其中一个实验是跟踪自由落体物体。输入是一个物体被抛向空中然后自由下落的视频，目标是确定每个视频帧中物体的高度。根据物理领域知识，物体高度随时间变化呈抛物线，其公式为：
[y_i = y_0 + v_0 (i\Delta t) + a (i\Delta t)^2]
在处理过程中，先减去固定的加速度项，拟合与初始高度和速度参数对应的曲线，然后再加上加速度分量。约束损失公式为：
[g (x, h (x)) = g (h (x)) = \sum_{i = 1}^{N} \vert\hat{y}_i - h (x)_i\vert]

此外，还进行了另外两个实验，分别是跟踪行走的人的位置以及检测具有因果关系的物体。通过这些实验，验证了该方法在模拟计算机视觉任务中的有效性，即成功地基于物理和领域知识训练了卷积神经网络。

无免费午餐定理

在机器学习中，存在无免费午餐（NFL）定理，该定理试图揭示机器学习算法的功能和性能之间的基本关系，正如那句流行的谚语“天下没有免费的午餐”所暗示的那样。

定理起源

• 1995年，David H. Wolpert和William G. Macready在美国圣达菲研究所的一份技术报告（SFI - TR - 95 - 02 - 010）中首次针对搜索问题提出了无免费午餐定理，名为“No Free Lunch Theorems for Search”。 <