qq_39158406的博客

逻辑回归灵魂拷问之(二)——渐入佳境在上篇文章(小试牛刀)中我们讲述了一些逻辑回归的常见问答，这篇文章还是继续上篇文章继续深入挖掘逻辑回归的常见问题。1、逻辑回归的为什么采用交叉熵的损失函数这个一般是通过极大似然估计推导出来的。由于最终的结果服从伯努利分布，我们有：P(Y=1∣x)=p(x)P(Y=1|x)=p(x)P(Y=1∣x)=p(x)P(Y=0∣x)=1−p(x)P(Y=0|x)=1-p(x)P(Y=0∣x)=1−p(x)可以得到似然函数：L(w)=Π[p(xi)yi(1−p(xi))1

逻辑回归灵魂拷问—你思考过了没有？逻辑回归几乎是最常见的机器学习模型了，每个初学者来说都是必须学习的机器学习模型，简单的推导再加上优雅的模型，很容易被人所理解。值得注意的是，就是这么简单的模型，在各种应届实习或者工作面试中经常会被面试官提到。它是否真的如你想象的如此简单，有什么地方是你在学习的过程中丝毫没有注意到的，现在让我们一起深入地了解下它吧。1、基础概念本篇文章主要是讲解学习逻辑回归时不容易想到的问题，因此对于机器学习的公式推导啥的就不不仔细展开了。假设背景：预测值y服从伯努利分布激活函数：