sklearn应用之logistic优化算法选择

class sklearn.linear_model.LogisticRegression(penalty=’l2’, dual=False, tol=0.0001, C=1.0, fit_intercept=True, intercept_scaling=1, class_weight=None, random_state=None, solver=’warn’, max_iter=100, multi_class=’warn’, verbose=0, warm_start=False, n_jobs=None, l1_ratio=None)
逻辑回归可选的solver有：“liblinear”, “newton-cg”, “lbfgs”, “sag” and “saga”

1.liblinear适合小数据集，sag和saga对大数据集运算比较快

2.多分类，1 vs rest 损失以及正则化的选择：
saga支持所有情况；
lbfs,newton-cg,sag不支持L1正则
liblinear不支持多分类，不支持无正则

3.sag,saga在数据集没有归一化的时候表现不稳定，而liblinear,newton-cg,lbfs在没有归一化的情况下也具有鲁棒性