《MLAPP》读书笔记
1.4 一些机器学习中的基本概念
(1)参数模型和半参数模型
参数模型:模型有固定的参数数量。
半参数模型:参数数量随着数据数量的增长而增长。
参数模型:
优点:能较快的投入使用。
缺点:不能对数据的分布形式作出很好的预测。
半参数模型:
优点:有较大的灵活性。
缺点:对大数据集的计算过于庞杂。
(2)K最近邻算法(KNN)
KNN在处理高维度数据时的表现很差,被称为“维度灾难”。
(3)用于分类和回归的参数模型
去解决维度灾难的主要方法是对数据的分布形式做出一些假设,这些假设被称为“归纳偏置”。