On_theway10的博客

问题的提出 --> Figure_1假设我们有一堆如图(b)所示的数据集X，它们由3个独立的高斯分布生成，样本在空间中存在交叠，上帝知道它的本来面目(如图(a)所示)，一个自然的问题是：能否根据数据集X，估计出生成它们的分布的参数呢？答案是肯定的，下面来分析如何求解模型参数。混合高斯模型我们假设X的...

极大似然估计（Maximum Likelihood Estimate,MLE）思想精髓：存在的即是最合理的。在假设数据{X,Y}服从分布P(X,Y|)，寻找最能解释数据集的参数,从而使得分布能够最好地刻画数据集.一般流程：step -1. 假设数据集的分布为P(X,Y|)，其中表示确定的参数；step -2. 求解如下的优化问题：最大后验估计（Maximum A Posteri...

前言对于有监督学习任务而言，它的目标函数函数往往具有如下的格式： 其中红色部分表示数据拟合项(损失项)，它度量了用模型f(x,theta)来拟合数据标签y时所带来的偏差(error/loss)；绿色的部分则是模型正则项，它度量了模型的复杂度。因此上述格式的目标函数蕴含着...

常见的分类损失函数 图1. 机器学习常见损失函数备注: 图1中很坐标表示样本x的得分score...