laosao_66的博客

对于向量对对向量求导，有些分歧，按分子布局的向量对向量求导的结果矩阵，我们一般叫做雅克比 (Jacobian)矩阵。对于分子布局来说，我们求导结果的维度以分子为主，比如对于我们上面对标量求导的例子，结果的维度和分子的维度是一致的。而我们很多资料好像都是默认利用分母布局来进行算的，因为这样更多的使我们的结果也会成为列向量的形式（我们的自变量往往定义成列向量的形式），同时这样也更有利于我们去理解实值函数相对于实向量的求偏导：逐次对实向量每个元素求偏导，这样得到的结果自然和实向量的维度是一致的；

​最大似然估计的概念的理解12.最大似然估计的概念的理解23.最大似然估计的概念的理解34.例子假如有一个罐子，里面有黑白两种颜色的球，数目多少不知，两种颜色的比例也不知。我们想知道罐中白球和黑球的比例，现在我们可以每次任意从已经摇匀的罐中拿一个球出来，记录球的颜色，然后把拿出来的球再放回罐中。假如在前面的一百次重复记录中，有七十次是白球，请问罐中白球所占的比例最有可能是多少？很多人马上就有答案了：70%。而其后的理论支撑是什么呢？我们假设罐中白球的比例是p

的规律，这个规律就是大数定律。通俗地说，这个定理就是，在试验不变的条件下，重复试验多次，随机事件的频率近似于它的概率。大数定律(law of large numbers)，是一种描述当试验次数很大时所呈现的概率性质的。的特例，其含义是，当n足够大时，事件A出现的频率将几乎接近于其发生的概率，即频率的稳定性。但是注意到，大数定律并不是经验规律，而是在一些附加条件上经严格证明了的。设μ是n次独立试验中事件A发生的次数，且事件A在每次试验中发生的。在抽样调查中，用样本成数去估计总体成数，其理论依据即在于此。

其中：P(a, b)表示 a和b事件同时发生的概率， P(a | b)是一个条件概率，表示在b事件发生的条件下，a发生的概率。所有的事件，只与它们的父节点有依赖关系，其中，E只和B有关，B只和AC有关，D只与C有关，A和C不依赖其他任何事件。假设有事件ABCDE，它们之间的关系如下，求ABCDE同时发生的概率 P(A, B, C, D, E) 是多少？其中：P(a | b, c)表示在b和c事件都发生的情况下，a事件发生的概率。B只和AC有关，则 P(B | D, C, A) = P(B | C, A)