第一章 统计学习方法概论
统计学习方法:监督、无监督、半监督、强化学习
蓝皮书只讲监督学习
方法 = 模型+策略+算法
模型 : 学习条件概率分布或者决策函数
P(Y|X)
P
(
Y
|
X
)
Y=f(x)
Y
=
f
(
x
)
策略:经验(平均损失)风险或者结构(加正则化项)风险最小化
对数损失函数(对数似然损失函数)
L(Y,P(Y|X))=−logP(Y|X)
L
(
Y
,
P
(
Y
|
X
)
)
=
−
l
o
g
P
(
Y
|
X
)