woniuhuli的博客

这一篇文章主要探讨机器学习中的一些基本概念。主要包括以下部分： 1. 机器学习的三要素 2. 机器学习中常用的损失函数，重点分析对数损失函数的意义 3. 常用的模型的正则化项及其实际意义 4. 交叉验证与模型的性能度量 注：以下内容为自己学习西瓜书和《统计学习方法》过程中的总结，部分为自己的认识，错误之处烦请指出。 一、机器学习三要素 　　李航博士的书中提到任何统计学习方法（...

说白了，逻辑斯蒂回归实际上就是label y = 1的对数几率是输入x的线性函数的模型。 对数几率 一个事件发生的概率为PPP, 则该事件发生的几率为P1−PP1−P\frac{P}{1-P}, 即为该事件发生的概率除以该事件不发生的概率。 该事件的对数几率即为：logit(p)=logp1−plogit(p)=logp1−plogit(p) = log\frac{p}{1-p} 逻辑...