概率论随机变量数字特征（方差、协方差、协方差矩阵）未完

整理自《概率论与数理统计 第四版》浙江大学 盛骤。。。

1. 期望（均值）

离散随机变量期望定义：
设离散型随机变量X的分布律为 P { X = x } = p k , k = 1 , 2 , 3 , . . . P\{X=x\}=p_k,k=1,2,3,... P{X=x}=pk​,k=1,2,3,...若级数$\sum _{k=1}^{\infty }{x}_k{p}_k$绝对收敛，则称级数$\sum _{k=1}^{\infty }{x}_k{p}_k$的和为随机变量$X$的数学期望，记为$E(X)$
$E(X)=\sum _{k=1}^{\infty }{x}_k{p}_k$

连续型随机变量期望定义：
设连续型随机变量$X$的概率密度为$f(x)$，若积分${\int }_{-\infty }^{\infty }xf(x)dx$绝对收敛，则称积分${\int }_{-\infty }^{\infty }xf(x)dx$的值为随机变量X的数学期望，记为$E(X)$
$E(X)={\int }_{-\infty }^{\infty }xf(x)dx$
$\underline{f(x)dx}$是概率（$dx\ast f(x)$小面积）

注意：
$X=x$是取数，$p_k$是$X=x$的取数概率
所以：
当X满足上述条件，Y=g(x)时，求Y的期望
离散： $E(Y)=\sum _{k=1}^{\infty }g(x_k)p_k$
连续： $E(Y)={\int }_{-\infty }^{\infty }g(x_k)f(x)dx$

2. 方差(稳定性)和协方差(相关性)*

方差是用来度量单个随机变量的离散程度，而协方差则一般用来刻画两个随机变量的相关程度。

中学版：

方差计算公式：
${\sigma }_x^2=\frac{1}{n-1}\sum _{i=1}^n(x_i-\bar{x}{)}^2$
其中，$n$表示样本量，符号$\bar{x}$表示观测样本的均值。
协方差计算公式：
$\sigma (x,y)=\frac{1}{n-1}\sum _{i=1}^n(x_i-\bar{x})(y_i-\bar{y})$
我们可以发现，方差${\sigma }_x^2$可视作随机变量$x$关于其自身的协方差$\sigma (x,x)$。

大学版：

方差定义：
设X是一个随机变量，若 E { [ X − E ( X ) ] 2 } E\{[X-E(X)]^2\} E{[X−E(X)]2}存在，则称 E { [ X − E ( X ) ] 2 } E\{[X-E(X)]^2\} E{[X−E(X)]2}为X的方差，记为D(X)或Var(X),
D ( X ) = V a r ( X ) = E { [ X − E ( X ) ] 2 } D(X)=Var(X)=E\{[X-E(X)]^2\} D(X)=Var(X)=E{[X−E(X)]2}
由定义可知，方差实际上就是随机变量$X$的函数$g(X)=(X-E(X){)}^2$的数学期望
离散型：$D(X)=\sum _{k=1}^{\infty }[x_k-E(X){]}^2{p}_k$
连续型：$D(X)=\underset{-\infty }{\overset{\infty }{\int }}[x-E(X){]}^{2}f(x)dx$

标准差(均方差)： 方差开根号
$\sqrt{D(X)}$
记为$\sigma (X)$

3. 协方差矩阵

根据方差的定义，给定$d$个随机变量$x^{(k)},k=1,2,3...d$，则这些随机变量的方差为
$\sigma (x^{(k)},x^{(k)})=$