数字信号处理的理论体系 (ZT)

实用往往不关心理论是如何组织起来的，因而丧失很多的机会。
试图去了解一个学科的整个体系是困难的，但是当我们试图怎么做了，
就会有更多的思想和算法。下面仅仅是我自己学习数字信号处理并且
参加一些实践之后，对于其理论体系的一点管见。征求评论和建议。

数字信号处理以信号系统的一般理论为基础，在理论体系上发展
专门适合于离散时间（或者空间）上的信号分析原理和方法，在实践
上发展适合于计算机处理的器件和设备，在应用上建立针对不同信号
的模型和计算方法。数字信号处理的基础理论是在针对确定信号的讨
论 发展起来的，但是其应用几乎无一例外地涉及随机信号的分析，
从这个意义上说，统计信号处理是数字信号处理的应用表现。因此，
数字信号处理的理论体系大体可以归纳为三个层次的结构，这个结构
更低层的基础是数学，更上层的是具体的应用。

+--------------------------+--------+

 | 统计信号处理 | |
+-----------------+--------+ 信息论 |
| 离散时间（空间）| | 　　　 |
|信号分析基本理论 |数理统计+--------+
+-----------------+ 概率论 |
| 信号与系统 | 和随机过程 |
+-----------------+-----------------+

仅仅是我个人的归纳和见解，而且就我自己很能看到这个体系描
述的明显的不足。事实上，统计信号处理的大多数原理并不直接来源
于离散时间（空间）系统的分析，而是来源于对一般时间（空间）序
列的研究。然而上面这样的层次对于我们利用计算机为工具来解决问
题是有用的。譬如，我导师在他的博士论文工作中使用的程序库（包
含他自己编写的大量代码）基本上就是由数理统计和数值计算、信号
处理工具、信息处理工具以及它们所支持的统计信号处理工具库所构
成的。

上面的不同层次，有不同的关键问题。信号与系统的理论基础讨
论的核心问题就是变换域上表示信号的问题。C.E.Shannon的抽样定理
（Theorem 13 in "A mathematical Theory of Communication",
Shannon1948）被工程师们公认为影响这个世界的最重要的公式之一
（根据一项非正式的调查显示，抽样定理列于该调查所排列的10个最
重要公式中。注意，第一位是牛顿第二定律，第二位是万有引力定律，
第五位是Maxwell方程组，抽样定理列第八，却足以说明它的重要性。）
抽样定理唯一地提供了这样的可能性：能够用有限的离散的计算手段
来研究连续发生的信号。

离散信号分析的理论一方面把连续时间的信号分析的方法和原理
引进到离散系统的领域，比如z-变换、DTFT、DFT以及根据模拟滤波
器按照一定准则设计数字滤波器的方法；另一方面独立发展关于离散
系统和信号分析的专门的理论和方法，比如滤波器的算法设计、量化
的理论、有限字长的效应。这些理论的发展有一个共同的特点，就是
适应数字计算机解决信号处理的问题。需要注意到，离散信号和系统
的理论不仅仅解决现实世界中连续系统的问题，也开辟了解决本身就
具有离散特征的系统的问题，比如，雷达天线阵列的方向图问题，本
身就是空间离散Fourier变换的问题。

现实问题中的信号一般都不是确定的，而是随机的。统计信号处
理引进随机过程和数理统计的成果，并且运用信号处理的基本原理，
建立模型和参数估计的理论，并且同信息论关于信源和信道及其相互
关系的理论结合在一起，用于解决特定系统、特定模型的问题。模型
决定算法，而算法决定实现。写到这样一句话的时候，可以这么来归
纳工程师们在数字信号处理领域所取得的成就：

理论-模型-算法-工程实现-应用

最终解决问题的一定是可以运行的代码或者设备。