逻辑斯谛回归学习总结

* 逻辑斯谛回归模型是对数线性模型的推理*
逻辑斯谛分布函数 F（x）=P(X$\le$x)=$\frac{1}{1+e^-(x-\mu)/\gamma}$
逻辑斯谛的密度函数是f(x)=F’(x)=$\frac{e^-(x-\mu)/\gamma}{\gamma(1+e^-(x-\mu)/\gamma)^2}$
该曲线以点$(\mu,\frac{1}{2})$为中心对对称。曲线在中心附近增长速度较快，在两端增长速度较慢。$\gamma$的值越小，曲线在中心附近增长得越快。
二项逻辑斯谛回归模型的条件概率分布：
P(Y=1|x)=$\frac{exp(w\cdot x+b)}{1+exp(w\cdot x+b)}$
P(Y=0|x)=$\frac{1}{1+exp(w\cdot x+b)}$
一个事件发生的概率与该事件不发生的概率的比值称为这个事件的几率(odds)，即：
logit（p）=log$\frac{p}{1-p}$
对于逻辑斯谛回归来说，就是:
logit(p) = log$\frac{ P(Y=1|x)}{ P(Y=0|x)}$=$w \cdot x$
这就是说，在逻辑斯谛回归模型中，输出Y=1的对数几率是输入x的线性函数，或者说Y=1的对数几率是由输入x的线性函数表示的模型。