23、线性系统估计：直接与迭代求解方法解析

线性系统估计：直接与迭代求解方法解析

在许多实际问题中，线性系统的求解是关键环节。本文将深入探讨线性系统估计的相关内容，包括基本方程、不同的求解方法及其特点。

1. 线性系统估计基本方程

在解决线性系统估计问题时，有两个重要的方程：
- 贝叶斯线性最小二乘估计器的解：
- (\hat{z}(m) = \mu + (P^{-1} + C^TR^{-1}C)^{-1}C^TR^{-1}(m - C\mu))
- (\tilde{P} = cov(\tilde{z}) = (P^{-1} + C^TR^{-1}C)^{-1})
- 非贝叶斯最小二乘估计问题的解：
- (\hat{z}(m) = (L^TL + C^TR^{-1}C)^{-1}C^TR^{-1}m)

由于这两种形式在代数上是等价的，我们通常考虑更一般的形式：
(\hat{z} = (Q + C^TR^{-1}C)^{-1}C^TR^{-1}m)
由此得到线性系统：
((Q + C^TR^{-1}C)\hat{z} = C^TR^{-1}m)，即 (A\hat{z} = b)，这被称为正规方程。

对于大型问题，由于矩阵 (A) 与 (P) 大小相同，直接进行密集存储是不可行的，因此需要稀疏或隐式表示 (A)。同时，我们需要高效计算矩阵 - 向量乘积 (A\hat{z} = Q\hat{z} + C^TR^{-1}C\hat{z})。例如，对于平稳问题，当 (C = I)，(R = Diag(r)) 且 (Q) 有核 (Q) 时，(A\hat{z} = Q\hat{z} + I^T(Diag(r))^{-1}I\hat{z}