逻辑回归推导

参考：https://techlog.cn/article/list/10183274

https://www.jianshu.com/p/894bda167422

线性回归-梯度下降：https://www.cnblogs.com/BYRans/p/4700202.html

逻辑回归--利用一条直线将平面上的点分为两个部分，即两个类别，要解决的问题就是如何拟合出这条直线。

逻辑回归的算法推导--如何获得函数的参数

二分类问题中真值要么是0要么是1，若采用线性回归来预测y的取值，这样做会导致y的取值并不为0或1。逻辑回归便使用一个函数来归一化y值，使y的取值在区间(0,1)内，这个函数称为Logistic函数(logistic function)，也称为Sigmoid函数(sigmoid function)。函数公式如下：

对于样本，，...,参数为  和 ，构造回归函数：

二分类情况下的概率分布：

估计参数--代价利用最大似然

两边使用对数，不影响函数的单调性

梯度下降法来更新模型参数 和