记忆碎片的博客

文章目录联合、边缘、条件概率及其分布联合概率与联合概率分布边缘概率与边缘概率分布条件概率与条件概率分布联合概率、边缘概率、条件概率之间的关系离散型分布的情况连续型分布的情况贝叶斯定理(贝叶斯公式)先验概率后验概率贝叶斯公式联合、边缘、条件概率及其分布联合概率与联合概率分布假设有随机变量X与Y, 此时，P(X=a,Y=b)用于表示X=a且Y=b的概率。这类包含多个条件且所有条件同时成立的概率称...

文章目录似然函数与最大似然估计似然的概念似然函数最大似然估计伯努利分布伯努利分布下的最大似然估计高斯分布高斯分布下的最大似然估计信息量、熵、相对熵、交叉熵、机器学习中的交叉熵信息量熵相对熵（KL散度）似然函数与最大似然估计似然的概念“似然”用通俗的话来说就是可能性，极大似然就是最大的可能性。似然函数似然函数是关于统计模型中的一组概率的函数(这些概率的真实值我们并不知道)，似然函数的因变量...

文章目录伯努利分布二项分布多项分布贝塔分布狄利克雷分布高斯分布伯努利分布伯努利分布(Bernoulli distribution)又名两点分布或0-1分布，介绍伯努利分布前首先需要引入伯努利试验（Bernoulli trial）。伯努利试验是只有两种可能结果的单次随机试验，即对于一个随机变量X而言：P(X=1)=pP ( X = 1 ) = pP(X=1)=pP(X=0)=1−pP ...