【统计学习1】方差、协方差、相关系数与向量内积

第一：方差

定义：随机变量或者一组数据离散情况的度量。

为啥分母 n-1？

• a、目的：方差的估计是无偏的。
• b、原因：实际工作中，总体均数难以得到时，只能应用样本统计量代替总体参数。
• c、解释：分子上求期望【理解为求样本均值】已经用掉所有的自由度n；
•                事实上，如果分母n，因为第n个数，已经由n-1个数，和期望决定了，所有其没有信息量，所有要n-1。
•                简单说了，分子的期望，用掉了一个自由度。

第二：协方差

定义：在概率论和统计学中用于衡量两个变量的总体误差。

          而方差是协方差的一种特殊情况，即当两个变量是相同的情况。

• 方差：   Var(X)    = E[ (X-E(X)) *  (X-E(X)) ]
• 协方差：Cov(X,Y)= E[ (X-E(X))  *  (Y-E(Y)) ]

以上两个显然相似，方差就是协方差的特殊情况。

• 协方差为+，说明两个变量正相关。
• 协方差为-， 说明两个变量负相关。

*****************************************