巧妙解决过拟合与欠拟合方法整理

解决欠拟合：

1. 添加其它特征项。组合、泛化、相关性、上下文特征、平台特征等特征是特征添加的重要手段，有时候特征项不够会导致欠拟合。
2. 添加多项式特征。例如将线性模型添加二次项或三次项使泛化能力更强。例如，FM（Factorization Machine）模型、FFM（Field-aware Factorization Machine）模型，其实就是线性模型，增加了二阶多项式，保证了模型一定的拟合程度。
3. 可以增加模型的复杂程度。
4. 减小正则化系数。正则化的目的就是用来防止过拟合的，但是先模型出现了欠拟合，则需要减少正则化参数。

解决过拟合：

1. 重新清洗数据，数据不纯会导致过拟合，此类情况需要重新清洗数据。
2. 增加训练样本数量。
3. 降低模型复杂程度。
4. 增大正则项系数。
5. 采用dropout方法，dropout方法，通俗的讲就是在训练的时候让神经元以一定的概率不工作。
6. early stopping，减少迭代次数。
7. 增大学习率。
8. 添加噪声数据。数据增强。
9. 树结构中，可以对树进行剪枝。
10. 减少特征项。

详细讲解过拟合
方法很多，需要根据实际情况、实际问题和实际模型进行选择。