追赶法求解三对角方程组

1. 来源和背景

对于一个（主）三对角方程组，我们常用“追赶法”来进行求解. 而三对角方程组常常出现于微分方程的数值求解，例如热传导方程的边值问题

$$\begin{cases} y^{''}(x)=f(x,y,y^{'}),\ a\leq x\leq b\\ y(a)=\eta_1,\ y(b)=\eta_2 \end{cases}$$
当$f(x,y,y^{'})$是一个线性函数时，对该边值问题的数值解转化为一个典型的三对角方程组求解.

“追赶法”目前比较可靠的来源是下面的文章：
Thomas, L.H., Elliptic Problems in Linear Differential Equations over a Network. Watson Science Computer Laboratory Report, 1949.
其中的一个依据是，在国外的文章和教材中，“追赶法”被称为“Thomas算法”.

---

2. 追赶法的基本原理

追赶法的基本原理是矩阵的LU分解，即将矩阵$A$分解为

$$A=LU$$
其中，$L$为一个对角线上元素为$1$的下三角矩阵，$U$为一个上三角矩阵. 容易验证，一个三对角矩阵作LU分解以后，得到一个下二对角矩阵与一个上二对角矩阵的乘积，即
$$A=\left[\begin{array}{cccccc} a_{11} & a_{12} & & & & & \\ a_{21} & a_{22} & a_{23} & & & & \\ & a_{32} & a_{33} & a_{34} & & \\ & & & & & &\\ & & \ddots & \ddots & \ddots & & \\ & & & & & & \\ & & & & a_{n-1,n-2} & a_{n-1,n-1} & a_{n-1,n} \\ & & & & & a_{n,n-1} & a_{n-1,n} \\ \end{array}\right]$$

$$L=\left[\begin{array}{cccccc} 1 & & & & & & \\ \ell_{21} & 1 & & & & & \\ & \ell_{32} & 1 & & & \\ & & & & & &\\ & & \ddots & \ddots & & & \\ & & & & & & \\ & & & & \ell_{n-1,n-2} & 1 & \\ & & & & & \ell_{n,n-1} & 1 \\ \end{array}\right]$$
$$U=\left[\begin{array}{cccccc} u_{11} & u_{12} & & & & & \\ & u_{22} & u_{23} & & & & \\ & & u_{33} & u_{34} & & \\ & & & & & &\\ & & & \ddots & \ddots & & \\ & & & & & & \\ & & & & & u_{n-1,n-1} & u_{n-1,n} \\ & & & & & & u_{n-1,n} \\ \end{array}\right]$$

三对角矩阵$A$的LU分解计算过程如下：

for i = 2 to n
    A(i,i-1) = A(i,i-1)/A(i-1,i-1);
    A(i,i) = A(i,i) - A(i-1,i) * A(i,i-1);
end

在计算过程中，将下三角矩阵$L$和上三角矩阵$U$的值保存在原矩阵$A$中. 计算结束以后，矩阵$A$中的元素为

$$\left[\begin{array}{cccccc} u_{11} & u_{12} & & & & & \\ \ell_{21} & u_{22} & u_{23} & & & & \\ & \ell_{32} & u_{33} & u_{34} & & \\ & & & & & &\\ & & \ddots & \ddots & \ddots & & \\ & & & & & & \\ & & & & \ell_{n-1,n-2} & u_{n-1,n-1} & u_{n-1,n} \\ & & & & & \ell_{n,n-1} & u_{n-1,n} \\ \end{array}\right]$$

注： 三对角矩阵$A$做LU分解以后，严格上三角部分的元素没有发生变化，即上三角矩阵$U$中的元素

$$u_{i,i+1}=a_{i,i+1},\ i=1,2,\dots,n-1$$

---

3. 追赶法求解三对角方程组

使用LU分解的求解线性方程组时，不需要存储下三角矩阵，而上三角矩阵将被用于回代求解.

3.1 “追”的过程：分解

对于$n$阶的三对角方程组

$$Ax=b$$
我们先用LU分解得到

$$Ux=y$$

注： 由$Ax=LUx=b$，得

$$Ux=L^{-1}b$$
记$y=L^{-1}b$，即得到方程组$Ux=y$.

计算过程如下：

for i = 2 to n
    A(i,i-1) = A(i,i-1)/A(i-1,i-1);
    A(i,i) = A(i,i) - A(i-1,i) * A(i,i-1);
    b(i) = b(i) - b(i-1) * A(i,i-1);
end

循环里面的前两行与LU分解完全相同，第三行负责对常数项做相应的变换. 在计算过程中，上三角矩阵$U$的值保存在原矩阵$A$中，变换后的常数$y=L^{-1}b$保存在$b$中.

3.2 “赶”的过程：回代

接着，我们用回代法求解上三角形方程组. 从三对角矩阵得到的上三角形方程组如下：

$$\left[\begin{array}{cccccc} u_{11} & u_{12} & & & & & \\ & u_{22} & u_{23} & & & & \\ & & u_{33} & u_{34} & & \\ & & & & & &\\ & & & \ddots & \ddots & & \\ & & & & & & \\ & & & & & u_{n-1,n-1} & u_{n-1,n} \\ & & & & & & u_{n-1,n} \\ \end{array}\right] \left(\begin{array}{c} x_1\\ x_2\\ \vdots\\ x_{n-1} \\ x_n \end{array}\right)= \left(\begin{array}{c} y_1\\ y_2\\ \vdots\\ y_{n-1} \\ y_n \end{array}\right)$$
注意在前面的计算过程中，我们将上三角矩阵$U$保存在$A$中，常数项$y$保存在$b$中. 因此，我们得到如下的回代过程：

x(n) = b(n) / A(i,i); 
for i = n-1 to 1
    x(i) = (b(i) - A(i,i+1) * x(i+1)) / A(i,i);
end

4. 实用的程序代码

在三对角矩阵中，三对角线以外的元素均为$0$，为了提高存储的效率，我们只需存储三对角线上的元素即可. 因此，对于前面的矩阵$A$，我们只存储三个向量：

d=[A(1,1),A(2,2),...,A(n,n)];
u=[A(1,2),A(2,3),...,A(n-1,n)];
l=[A(2,1),A(3,2),...,A(n,n-1)];

这三个向量分别为矩阵三条对角线上的元素. 假定常数向量为

b=[b(1),b(2),...,b(n)];

则实用的追赶法（亦称为“Thomas算法”）求解三对角方程组的过程如下：

% 追
for i = 2 to n
    l(i-1) = l(i-1)/d(i-1);
    d(i,i) = d(i,i) - u(i-1) * l(i-1);
    b(i) = b(i) - b(i-1) * l(i-1);
end
% 赶
x(n) = b(n) / d(i); 
for i = n-1 to 1
    x(i) = (b(i) - u(i) * x(i+1)) / d(i);
end