本文探讨了逻辑回归中的优化方法，包括调整有无截距以改善分类效果，解决线性不可分问题，通过升高维度使之线性可分。此外，文章还介绍了调整分类阈值以降低特定风险，以及正则化技术（L1和L2）在防止过拟合中的作用。最后，提到了归一化数据的重要性及其不同方法，以及训练方法如SGD和L-BFGS的选择。
- 有无截距
对于逻辑回归分类，就是找到z那条直线，不通过原点有截距的直线与通过原点的直线相比，有截距更能将数据分类的彻底。
- 线性不可分问题
对于线性不可分问题，可以使用升高维度的方式转换成线性可分问题。低维空间的非线性问题在高维空间往往会成为线性问题。
- 调整分类阈值
在一些特定的场景下，如果按照逻辑回归默认的分类阈值0.5来进行分类的话，可能存在一些潜在的风险，比如，假如使用逻辑回归预测一个病人得癌症的概率是0.49，那么按照0.5的阈值，病人推测出来是没有得癌症的，但是49%的概率得癌症，比例相对来说得癌症的可能性也是很高，那么我们就可以降低分类的阈值，比如将阈值设置为0.3，小于0.3认为不得癌症，大于0.3认为得癌症，这样如果病人真的是癌症患者，规避掉了0.49概率下推断病人是不是癌症的风险。
降低阈值会使逻辑回归整体的正确率下降，错误率增大，但是规避了一些不能接受的风险。
- 鲁棒性调优
鲁棒是Robust的音
最低0.47元/天 解锁文章
扫一扫
5170
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
