统计学习基础（概念，基本思想，先验知识）

本文主要是阅读李航《统计学习方法》一书第一章后的一些梳理，总结，同时也学习使用一下Markdown.

---

统计学习三要素

• 模型（model）：假设空间中的函数簇。概念有参数向量。

• 策略（strategy）：评价模型好坏的标准。概念有损失函数，风险函数（期望损失），经验风险（ERM），结构风险（SRM），正则化（范数）。

• 算法（algorithm）：求解最优模型的算法。概念有优化算法（梯度下降，最小二乘法，全局最优）。

步骤：

训练数据集合——>假设空间选取——>损失函数确定——>求解模型的算法获取参数值——>最优模型获取——>预测或分析

模型

• 生成模型：由数据学习联合概率分布然后求得条件概率分布P(X|