一、机器学习
机器学习经常被归类为人工智能(artificial intelligence)的子领域。虽然对机器学习的研究确实是源自人工智能领域,但是机器学习的方法却应用于数据科学领域,因此把机器学习看作是一种数学建模更合适。
机器学习的本质是借助数学模型理解数据。
当我们给模型装上可以适应观测数据的可调参数时,“学习”就开始了,此时的程序被认为具有从数据中“学习”的能力。一旦模型可以拟合旧的观测数据,那么它们就可以预测并解释新的观测数据。
机器学习的分类
机器学习一般可以分为三类:有监督学习(supervised learning)和无监督学习(unsupervised learning),还有半监督学习(semi-supervised learning)。
1. 有监督学习
有监督学习是指对数据的若干特征与若干标签(类型)之间的关联性进行建模的过程。只要模型被确定,就可以应用到新的未知数据上。
有监督学习:可以训练带标签的数据以预测新数据标签的模型
有监督学习可以进一步分为分类(classification)任务与回归(regression)任务。
- 分类:可以预测两个或多个离散分类标签的模型
- 回归:可以预测连续标签的模型
- 在分类任务中,标签都是离散值
- 在回归任务中,标签都是连续值
- 分类算法包括:高斯朴素贝叶斯分类、支持向量机、随机森林分类等
- 回归算法包括:线性回归、支持向量机、随机森林回归等
2. 无监督学习
无监督学习是指对不带任何标签的数据特征进行建模(识别无标签数据结构的模型)
无监督学习包括聚类(clustering)任务和降维(dimensionality reduction)任务。
- 聚类:检测、识别数据显著组别的模型
- 降维:从高位数据中检测、识别低位数据结构的模型
- 聚类算法可以将数据分成不同的组别,一个聚类模型会根据输入数据的固有结构判断数据点之间的相关性
- 降维算法追求用更简洁的方式表现数据,需要从数据集本身的结构推断标签和其他信息
- 聚类算法包括: k k k-means聚类算法、高斯混合模型、谱聚类等
- 降维算法包括:主成分分析和各种流形学习算法,如Isomap算法、局部线性嵌入算法
3. 半监督学习
还有一种半监督学习方法,介于有监督学习与无监督学习之间。半监督学习方法通常可以再数据标签不完整时使用。
总结自《Python数据科学手册》