简单算法梳理2

在这里插入图片描述

3.2逻辑回归损失函数优化
优化：

4、 正则化与模型评估指标

评价指标，没时间多写了，明天继续修改

https://blog.youkuaiyun.com/shine19930820/article/details/78335550

5、逻辑回归的优缺点
优点：

1）预测结果是界于0和1之间的概率；

2）可以适用于连续性和类别性自变量；

3）容易使用和解释；

缺点：

1）对模型中自变量多重共线性较为敏感，例如两个高度相关自变量同时放入模型，可能导致较弱的一个自变量回归符号不符合预期，符号被扭转。​需要利用因子分析或者变量聚类分析等手段来选择代表性的自变量，以减少候选变量之间的相关性；

2）预测结果呈“S”型，因此从log(odds)向概率转化的过程是非线性的，在两端随着​log(odds)值的变化，概率变化很小，边际值太小，slope太小，而中间概率的变化很大，很敏感。 导致很多区间的变量变化对目标概率的影响没有区分度，无法确定阀值。

（from https://blog.youkuaiyun.com/Mr_HHH/article/details/79433094）

6、样本不均衡问题解决办法
https://blog.youkuaiyun.com/shine19930820/article/details/54143241
分类问题的样本不均衡，我这次也遇到了，找个方法来实践一下，最好的学习方式就是不断做项目，找自己不会的方向去做。
（1）Bootstrapping，hard negative mining

7.sklearn参数