第3周作业 过拟合和欠拟合的表现，及解决方式

1. 过拟合表现：

• 模型对训练集表现很好，对测试集拟合不好
• Loss（训练）小，Loss（测试）大

2. 过拟合解决方式：

• 增加数据量，数据增强
• 提前终止
• 正则化：
  • $J(w)=MS{E}_{train}+\lambda w^{\top }w$
    $\lambda$越大，越偏向小的权重
  • dropout（随机失活）

3. 欠拟合表现：

• 模型对数据的拟合度不高
• Loss（train）和Loss（test）均高

4. 欠拟合解决方式：

此时盲加数据是无用的

• 增加模型复杂度
• 添加其他特征项
• 减少正则化的程度