前言: 学习笔记,记录下对于一些问题的记录和理解,复习和加深记忆用,挖坑补坑用。
参考:李航 《统计学习方法》
0. 基本内容
-
逻辑斯蒂分布(logistic distribution)
-
分布函数
F ( x ) = 1 1 + e − ( x − μ ) / γ F(x) = \frac{1}{1+e^{-(x-\mu)/\gamma}} F(x)=1+e−(x−μ)/γ1 -
密度函数
f ( x ) = e − ( x − μ ) / γ γ ( 1 + e − ( x − μ ) / γ ) 2 f(x) = \frac{e^{-(x-\mu)/\gamma}}{\gamma(1+e^{-(x-\mu)/\gamma})^2} f(x)=γ(1+e−(x−μ)/γ)2e−(x−μ)/γ -
图像示意
-
-
逻辑斯蒂回归模型
-
二分类
P ( Y = 1 ∣ x ) = e − ( w x + b ) 1 + e − ( w x + b ) P ( Y = 0 ∣ x ) = 1 1 + e − ( w x + b ) P(Y=1|x) = \frac{e^{-(wx+b)}}{1+e^{-(wx+b)}} \\ P(Y=0|x) = \frac{1}{1+e^{-(wx+b)}} P(Y=1∣x)=1+e−(wx+b)e−(wx+b)P(Y=0∣x)=1+e−(wx+b)1 -
多分类
P ( Y = k ∣ x ) = e − ( w k x + b ) 1 + ∑ k = 1 K − 1 e − ( w k x + b ) , k = 1 , 2 , . . . , K − 1 P ( Y = K ∣ x ) = 1 1 + ∑ k = 1 K − 1 e − ( w k x + b ) P(Y=k|x) = \frac{e^{-(w_kx+b)}}{1+\sum\limits_{k=1}^{K-1}e^{-(w_kx+b)}},k=1,2,...,K-1 \\ P(Y=K|x) = \frac{1}{1+\sum\limits_{k=1}^{K-1}e^{-(w_kx+b)}} P(Y=k∣x)=1+k=1∑K−1e−(wkx+b)e−(wkx+b),k=1,2,...,K−1P(Y=K∣x)=1+k=1∑K−1e−(wkx+b)
-