(转)[sklearn]sklearn警告：ConvergenceWarning: lbfgs failed to converge

最新推荐文章于 2024-07-07 08:00:00 发布

转载最新推荐文章于 2024-07-07 08:00:00 发布 · 2.1k 阅读

CC 4.0 BY-SA版权

文章标签：

15 篇文章

订阅专栏

在训练逻辑回归模型时遇到了`lbfgs`未收敛的警告，提示迭代次数达到限制。解决方案包括增加最大迭代次数、更换求解器或忽略警告。尝试将`max_iter`设置为1000或使用`sag`求解器，并观察模型性能变化。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

这个警告是训练逻辑回归模型的时候出来的。

model=LogisticRegression()
train_model("logistic regression",model,trainxv,trainy,testxv,testy)

结果如下：

ConvergenceWarning: lbfgs failed to converge (status=1):
STOP: TOTAL NO. of ITERATIONS REACHED LIMIT.

在这里插入图片描述

上面默认运行了：

LogisticRegression(... solver='lbfgs', max_iter=100 ...)

1.lbfgs问题

lbfgs stand for: “Limited-memory Broyden–Fletcher–Goldfarb–Shanno Algorithm”. It is one of the solvers’ algorithms provided by Scikit-Learn Library.

The term Limited-memory simply means it stores only a few vectors that represent the gradients approximation implicitly.

It has better convergence on relatively small datasets.

2.没有收敛问题

这是说训练模型的时候，参数的迭代次数达到了限制(默认max_iter=100)，但是两次迭代参数变化还是比较大，仍然没有在一个很小的阈值以下，这就叫没有收敛。

不过，这只是一个警告（温馨提示）而已，我们要么选择 1.忽略，要么 2.增大最大迭代次数，要么 3.更换其他的模型或者那个参数solver，要么 4.将数据进行预处理，提取更有用的特征。

我们选择方案2，如下：
model=LogisticRegression(max_iter=1000)
train_model("logistic regression",model,trainxv,trainy,testxv,testy)

我们选择方案3，如下：

model=LogisticRegression(solver="sag")
train_model("logistic regression",model,trainxv,trainy,testxv,testy)

我们选择方案1，忽略一切警告，绝了。如下：

import warnings
warnings.filterwarnings("ignore")

model=LogisticRegression()
train_model("logistic regression",model,trainxv,trainy,testxv,testy)