概率论知识回顾（十九）：随机变量的距

概率论知识回顾（十九）

重点：随机变量的距

知识回顾用于巩固知识和查漏补缺。知识回顾步骤：

1. 查看知识回顾中的问题，尝试自己解答
2. 自己解答不出来的可以查看下面的知识解答巩固知识。
3. 对知识解答有疑问的，说明有关这一点的知识或者公式没有理解透彻或者没有记住，要重新翻看书籍。

知识回顾

1. 什么是一维随机变量的k阶距？如何进行求解？
2. 什么是一维随机变量的k阶中心距，如何进行求解？
3. 什么是多维随机变量的混合距？
4. 什么是多维随机变量的混合中心距？
5. 什么是多维随机变量的协方差矩阵?

---

知识解答

1. 什么是一维随机变量的k阶距？如何进行求解？

   • 对于随机变量 X 来说，如果对于一个正整数 k , $E(|X{|}^k)$ 存在，那么就说 ${\mu }_k=E(X^k)$ 为随机变量的 k 阶距。
   • 对于 ${\mu }_1$ 我们并不陌生，它就是之前我们讨论的期望。同时对于 ${\mu }_2$ 我们应该也不陌生，在求解方差的时候，即 $D(X)=E(X^2)-[E(X){]}^2={\mu }_2-{\mu }_1^2$
   • 求解 ${\mu }_k=E(X^k)=\{\begin{array}{ll}{\sum }_{i=1}^{+\infty }{x}_i^k{p}_i& X为离散随机变量\\ {\int }_{-\infty }^{+\infty }{x}^{k}f(x)dx& X为连续随机变量\\ {\int }_{-\infty }^{+\infty }{x}^{k}dF(x)& 通用情况\end{array}$

2. 什么是一维随机变量的k阶中心距，如何进行求解？k阶距和k阶中心距有什么关系？

   • 对随机变量 X 来说，如果对于一个正整数 k, $E(|X-E(X){|}^k)$ 存在，那么就说 $C_k=E[X-E(X){]}^k$ 为X的k阶中心距。

   • 当然 $C_2$ 也就是我们说的方差。

   • 它的求解方式和k阶距的求解方式类似，即把 $x^k$ 替换成 $(x-EX{)}^k$ 即可

   • 对于k阶距来说，这里的 EX=0, 因此也称为k阶原点距。

   • 另外：任何的 k 阶中心距都可以用 k 阶距来进行表示。

     $$\begin{array}{rl}{C}_k& =E(X-{\mu }_1{)}^k=E[\sum _{i=0}^k{C}_k^i{X}^i(-{\mu }_1{)}^{k-i}]\\ & =\sum _{i=0}^k{C}_k^i(-{\mu }_1{)}^{k-i}E(X^i)=\sum _{i=0}^k{C}_k^i(-{\mu }_1{)}^{k-i}{\mu }_i\end{array}$$

3. 什么是多维随机变量的混合距？

   • 对于随机变量X,Y，称 $E(X^k{Y}^l)$ 为 X 和 Y 的 k+l阶 混合距。
   • 同理，对于n个正整数 $k_1,k_2,...,k_n$, 若 $E(|X_1^{k_1}{X}_2^{k_2}\cdots X_n^{k_n}|)$ 存在，则称$E(X_1^{k_1}{X}_2^{k_2}\cdots X_n^{k_n})$ 为 $X=(X_1,X_2,...,X_n)$ 的 $k_1+k_2+\cdots +k_n$ 阶混合距。

4. 什么是多维随机变量的混合中心距？

   • 对于随机变量X,Y，称 $E((X-EX{)}^k(Y-EY{)}^l)$ 为 X 和 Y 的 k+l阶 混合中心距。
   • 可以看到，当 k=l=1 的时候，就是X和Y的协方差。
   • 同理，对于n个正整数 $k_1,k_2,...,k_n$, 若 $E(|(X_1-E{X}_1{)}^{k_1}(X_2-E{X}_2{)}^{k_2}\cdots (X_n-E{X}_n{)}^{k_n}|)$ 存在，则称$E((X_1-E{X}_1{)}^{k_1}(X_2-E{X}_2{)}^{k_2}\cdots (X_n-E{X}_n{)}^{k_n})$ 为 $X=(X_1,X_2,...,X_n)$ 的 $k_1+k_2+\cdots +k_n$ 阶混合中心距。

5. 什么是多维随机变量的协方差矩阵?

   • 对于多维随机变量$X=(X_1,X_2,...,X_n)$来说， 它的期望是 $EX=(E{X}_1,E{X}_2,...,E{X}_n)$
   • 同理，将其看做为一个n维的向量，它的方差的求法也和普通一维随机变量方差求法有一些细微差别，即 $$\begin{array}{rl}D(X)=E((X-EX{)}^T(X-EX))& =\left[\begin{array}{c}{X}_1-E{X}_1\\ X_2-E{X}_2\\ ⋮\\ X_n-E{X}_n\end{array}\right]\cdot \left[\begin{array}{cccc}{X}_1-E{X}_1& X_2-E{X}_2& \cdots & X_n-E{X}_n\end{array}\right]\\ & =\left[\begin{array}{cccc}(X_1-E{X}_1)(X_1-E{X}_1)& (X_1-E{X}_1)(X_2-E{X}_2)& \cdots & (X_1-E{X}_1)(X_n-E{X}_n)\\ (X_2-E{X}_2)(X_1-E{X}_1)& (X_2-E{X}_2)(X_2-E{X}_2)& \cdots & (X_2-E{X}_2)(X_n-E{X}_n)\\ \cdots & \cdots & \cdots & \cdots \\ (X_n-E{X}_n)(X_1-E{X}_1)& (X_n-E{X}_n)(X_2-E{X}_2)& \cdots & (X_n-E{X}_n)(X_n-E{X}_n)\end{array}\right]\\ & =\left[\begin{array}{cccc}D(X_1)& Cov(X_1,X_2)& \cdots & Cov(X_1,X_n)\\ Cov(X_2,X_1)& D(X_2)& \cdots & Cov(X_2,X_n)\\ \cdots & \cdots & \cdots & \cdots \\ Cov(X_n,X_1)& Cov(X_n,X_2)& \cdots & D(X_n)\end{array}\right]=\left[\begin{array}{cccc}{b}_{11}& b_{12}& \cdots & b_{1n}\\ b_{21}& b_{22}& \cdots & b_{2n}\\ \cdots & \cdots & \cdots & \cdots \\ b_{n1}& b_{n2}& \cdots & b_{nn}\end{array}\right]\end{array}$$
   • 上面推导出的矩阵即称为 $X=(X_1,X_2,...,X_n)$ 的协方差矩阵。
   • 对于上面的矩阵可以知道
     • $b_{ii}=D(X_i)$
     • $b_{ij}=b_{ji}$
     • $b_{ij}^2\le b_{ii}{b}_{jj}$
     • 矩阵是非负定的，对任意实数 $t_1,t_2,...,t_n$ 有 $$\sum _{i=1}^n\sum _{j=1}^n{b}_{ij}{t}_i{t}_j\ge 0$$ 即 $tB{t}^T\ge 0$