第二章-信源与信息熵（二）

接上一节  第二章-信源与信息熵（一）

 

2.3 离散序列信源的熵

简介

1.        离散无记忆序列信源

a)        离散无记忆信源的序列熵

b)        离散无记忆信源的符号熵

2.        离散有记忆序列信源

a)        平稳信源

                        i.             序列熵

                      ii.             符号熵

b)        马尔可夫信源

                        i.             序列熵

                      ii.             符号熵

3.        从最简单的离散无记忆序列→平稳序列→马氏序列

4.        无记忆

a)        简单

5.        有记忆

a)        无限记忆

b)        有限记忆

                        i.  &