文章目录
前言
本文主要介绍了模型的泛化,包括过拟合的概念、防止过拟合的措施、L1和L2正则、正则和先验的关系、LR调参案例。
一、什么是过拟合
1.逻辑回归的参数
前面已经用到过了scikit-learn库的逻辑回归模型LogisticRegression,在初始化LogisticRegression类时用到了max_iter参数,还有其他一些参数,这些参数都是超参数。去调用模型时可以选择性地设置一些参数,这些参数的设定对模型训练后的结果一般会产生关键的作用。常见参数如下:
| 参数 | 说明 |
|---|---|
| penalty | { ‘L1’, ‘L2’, ‘elasticnet’, ‘none’}, default=‘L2’,用于指定处罚中使用的正则项 |
| dual | bool, default |
本文探讨了模型的泛化能力,特别是过拟合的概念及其防止方法,如L1和L2正则化。通过分析逻辑回归模型,解释了正则化如何限制参数大小,以及L1正则导致参数稀疏化的特性。此外,还介绍了交叉验证在调参中的重要性,以及正则与先验概率的关系。
订阅专栏 解锁全文
481

被折叠的 条评论
为什么被折叠?



