CBool的博客

对数几率回归（logistic regression），也常被叫做逻辑回归，用于分类任务当中。优点：计算代价不高，易于理解和实现缺点：容易欠拟合，分类精度可能不高在使用线性模型进行二分类任务时，需要找一个单调可微函数将分类任务的真实标记y与线性回归模型的预测值联系起来，二分类任务中，输出非0即1，而线性模型则是连续的任意值，二者需要做映射，考虑亥维赛德阶跃函数(单位阶跃函数)：f(x)={...

极大似然估计（MLE）在日常生活中有一个常识：概率大的事件越有可能发生，极大似然估计便是利用这一思想去对参数进行估计：​ 假设X为离散型随机变量，其分布律为P{X=x} = p{x;θ}，存在样本X1,X2,X3…，观察值为x1,x2,x3,…构造似然函数：L(Θ)=P{X1=x1,X2=x2,...,Xn=xn}=∏p{x;Θ}L(\Theta) = P\{ X1=x1,X2=x2,.....