统计学习方法（第2版）(李航)

1. 统计学习的定义：
   统计学习（statistical learning）是关于计算机基于数据构建统计模型并运用统计方法对数据进行预测与分析的一门学科。统计学习也称为统计机器学习（statistical machine learning）。
2. 统计学习的特点：
   统计学习以计算机及网络为平台，是建立在计算机及网络之上的；统计学习以数据为研究对象，是数据驱动的学科；统计学习的目的是对数据进行预测与分析，特别是对未知新数据进行预测与分析。
3. 统计学习的三要素：
   方法=模型+策略+算法。统计学习方法由模型、策略和算法构成，即统计学习方法的三要素。
4. 监督学习的定义：
   监督学习（supervised learning）是从标注的训练数据集中学习预测模型的机器学习技术。标注数据表示输入与输出对之间的映射关系。
5. 损失函数的定义：
   损失函数（loss function）或代价函数（cost function）用以度量预测错误的程度，它是f(X)和Y的非负实值函数，记作L(Y, f(X))。
6. 风险函数的定义：
   风险函数（risk function）或期望损失（expected loss）是理论上模型f(X)关于联合分布P(X,Y)的平均意义下的损失。

书:pan.baidu.com/s/1fJBrhrA9R2vswAS_4de6Cg?pwd=uind