台大机器学习基石 Lecture 3 - Types of Learning

本章主要讲了不同的学习方法，主要有Output Space, Data Label, Protocol, Input Space四个方面。

在上图[ ]以及后文中黄色标记的内容为本课程中主要讲解的内容。

Learning with Different Output Space 

• binary classification: 
• multiclass classification: 
• regression: 
• structured learning: 。输出空间包含了某种结构在里面，它的一些解法通常是从多分类问题延伸而来的，比较复杂。

Learning with Different Data Label 

• supervised: all 。监督学习，即给出所有样本的。
• unsupervised: no 。无监督学习，即不给出样本的，通过clustering（聚类）的方法。
• semi-supervised: some 。给出部分样本的，大多数的样本没有，避免了昂贵的标记成本。
• reinforcement learning: implicit  by goodness()

增强学习中,我们给模型或系统一些输入,但是给不了我们希望的真实的输出y,根据模型的输出反馈,如果反馈结果良好,更接近真实输出,就给其正向激励,如果反馈结果不好,偏离真实输出,就给其反向激励。不断通过“反馈­修”这种形式,一步一步让模型学习的更好,这就是增强学习的核心所在。

Learning with Different Protocol 

其实就是不同的学习方法，主要分为以下三类：

• batch: 即是一次性拿到所有的数据集。
• online: 在线学习模型，通过不断更新数据，可以在线更新模型。一些batch learning的模型也可以修改为online learning的模型，比如PLA模型的修正就可以在线进行。
• active: 让模型具有主动问问题的能力，也就是在获取label比较困难的时候可以主动提出需求以节约成本。

Learning with Different Input Space 

输入数据的不同类型？

• concrete: each dimension of  represents ‘sophisticated physical meaning’，具有具体意义的特色输入对机器学习最简单。
• raw: often need human or machines to convert to concrete ones，原始数据需要转换成对应的具体特征。
• abstract: 特征完全抽象，没有实际的物理含义。所以对于机器学习来说是比较困难的，需要对特征进行更多的转换和提取。