纽约大学一本书吃透机器学习之第二版-Foundations of Machine Learning（second edition）

《Foundations of Machine Learning》第二版是一本关于机器学习基础的全面书籍，旨在为研究人员提供参考书，同时为学生提供教材。书中涵盖了现代机器学习中的基本话题，并提供了讨论和论证算法所需的理论基础和概念工具。以下是本书的主要内容总结：

1. 介绍：定义机器学习，并讨论其可以解决的问题、标准学习任务和学习阶段。
2. PAC学习框架：介绍PAC（Probably Approximately Correct）学习模型，包括有限假设集的一致和非一致情况的保证。
3. Rademacher复杂度和VC维度：讨论Rademacher复杂度、增长函数和VC维度。
4. 模型选择：介绍估计和逼近误差、经验风险最小化（ERM）、结构风险最小化（SRM）和交叉验证等。
5. 支持向量机（SVM）：详细讲解线性分类、可分和不可分情况、支持向量以及边界理论。
6. 核方法：介绍正定对称核、再生核Hilbert空间（RKHS）、负定对称核和序列核。
7. 提升方法：主要讨论AdaBoost及其理论结果。
8. 在线学习：包括专家建议的预测、线性分类、在线到批处理转换等。
9. 多类分类：包括多类分类问题、泛化界、未组合和组合的多类算法。
10. 排序：介绍排序问题、排序的SVM、RankBoost和双极排序等。
11. 回归：讨论回归问题、回归算法及其泛化界。
12. 最大熵模型：介绍密度估计问题、最大似然解、最大后验解和最大熵模型。
13. 条件最大熵模型：讨论条件最大熵原则、条件最大熵模型及其性质。
14. 算