DataWhale基础算法梳理第二次作业--逻辑回归

【学习任务】

1. Logistic回归损失函数的极大似然推导：西瓜书公式3.27怎么推来的？
2. Logistic回归损失函数的最优化算法：什么是牛顿法、拟牛顿法？
3. 为什么不用线性回归做分类？
4. Logistic回归为什么不像线性回归那样用平方损失函数？
5. Logistic回归的参数为什么不像线性回归那样直接公式求解？
6. Logistic回归与线性回归有哪些联系？

【做题】

1、Logistic回归损失函数的极大似然推导：西瓜书公式3.27怎么推来的？

2、Logistic回归损失函数的最优化算法：什么是牛顿法、拟牛顿法？

3、为什么不用线性回归做分类？

    线性回归的标签值y和特征数据x属于线性对应关系，没有被压缩，因此强行实现分类不太合理。

4、Logistic回归为什么不像线性回归那样用平方损失函数？

   逻辑回归是解决的分类问题，而平方损失函数一般是评估回归问题的。

5、Logistic回归的参数为什么不像线性回归那样直接公式求解？

   逻辑回归函数是非线性的，损失函数较线性回归要复杂，回归参数不便于直接求解。

6、Logistic回归与线性回归有哪些联系？

    逻辑回归是基于线性回归进行非线性变换而来的，直观上是对标签值y的取值范围进行了压缩，控制在（0,1）范围内，使其符合概率定义。