机器学习 多元回归和logistic回归

梯度下降

        1.随机梯度下降

随机梯度下降，每一个数据下降一次，即拿到样本就下降

优点：下降速度变快，迭代时间更短

        2.小批量下降

每次用一部分数据样本来下降处理，而不是随机梯度的每拿一个样本就下降一次。

 Logistic回归

逻辑回归的本质是把几率（odds）看作是一个线性模型

Softmax回归

可以看到，我们可以把softmax回归看作logistic回归的一种推广