从一个小实例了解机器学习全过程（《机器学习实战》笔记）

我们通过一个机器学习的小实例来对机器学习技术进行一个初步了解。

准备工作

明确目标

该实例的目的在于通过1990年加州房子的各种特征（如经纬度、该地区收入中位数等）来预测该地区房子价格的中位数。数据集已经上传至文章的附件中（包含地区的房价中位数），很明显这是一个监督式学习任务，并且是一个回归任务。

选择性能指标

回归问题的典型性能指标是均方根误差（RMSE），它测量的是预测过程中，预测错误的标准偏差，也是下面我们使用的性能指标。下面是标准差公式：
$$RSEM(\mathbf{X},h)=\sqrt{\frac{1}{m}\sum _{i=1}^n(h({\mathbf{x}}^{(i)})-y^{(i)})}$$
其中${\mathbf{x}}^{(i)}$表示特征值向量,$h({\mathbf{x}}^{(i)})$表示得到的预测值，$y^{(i)}$表示真实值。
另外我们介绍另一种性能指标：平均绝对误差(MAE)，该指标适合具有较多离群数据的情况，见下面的公式：
$$MAE(\mathbf{X},h)=\frac{1}{m}\sum _{i=1}^n|h({\mathbf{x}}^{(i)})-y^{(i)}|$$
均方根误差和平均绝对误差都可以理解为两个向量之间的距离：预测向量和目标向量。距离或者范数的测度可能有多种：

• 计算平方和的根（RSEM）对应欧几里得范数，成为$l_2$范数，记为$||\cdot |{|}_2$或者$||\cdot ||$。
• 计算绝对值的总和（MAE）对应$l_1$范数，记为