吉林大学机器学习考前简答（整理着玩）

废话不多说，能背多少背多少（见不着概不负责.jpg）

1. 线性回归基本思想
找到一条直线，使其能够最佳的拟合给定的数据集

2.BGD和SGD的区别

BGD把一次性使用所有样本进行参数更新

SGD一个一个样本进行参数更新

缺点：

BGD无法处理大样本数据集

SGD可能会震荡，从而导致函数无法收敛

3.学习率α的选择

α过大，可能导致无法收敛（导致震荡）

α过小，可能导致学习速度过慢

4.欠拟合与过拟合

欠拟合：模型在训练集上表现不佳，从而无法在测试集上应用。

过拟合：模型在训练集上表现优异，但在测试集上表现不佳，模型泛化能力较差

5.硬分类与软分