3、机器学习预测：从基础概念到神经网络实践

机器学习预测：从基础概念到神经网络实践

1. 机器学习算法的分类

机器学习算法可以从两个维度进行分类：监督学习与无监督学习，参数学习与非参数学习。这就形成了四种不同类型的算法，具体如下表所示：
| | 监督学习 | 无监督学习 |
| — | — | — |
| 参数学习 | 监督参数学习 | 无监督参数学习 |
| 非参数学习 | 监督非参数学习 | 无监督非参数学习 |

1.1 参数学习与非参数学习的定义

• 参数模型 ：具有固定数量的参数。例如，在尝试将方钉放入方孔的问题中，像婴儿一样不断尝试将方钉插入各个孔直到找到合适的孔，这种方式类似于参数模型的试错学习。
• 非参数模型 ：参数数量由数据决定，通常是无限的。还是以方钉入孔为例，青少年可能会先数方钉的边数（四条边），然后寻找具有相同边数的孔，这类似于非参数模型的计数方法。

1.2 监督参数学习

监督参数学习可以简化理解为使用旋钮进行试错学习。其学习过程如下：
1. 预测 ：以预测红袜队赢得世界大赛的概率为例，模型首先获取数据（如比赛胜负记录、球员平均脚趾数等体育统计数据），并进行预测（如98%的获胜概率）。
2. 与真实模式比较 ：将预测结果（98%）与实际情况（红袜队是否真的获胜）进行比较。如果红袜队输了，那么预测值（98%）大于真实值（0%）。
3. 学习模式 ：通过研究