12、先进设计方法：从李雅普诺夫稳定性理论到最小二乘优化

先进设计方法：从李雅普诺夫稳定性理论到最小二乘优化

1. 李雅普诺夫稳定性理论基础

李雅普诺夫定理是研究线性和非线性系统稳定性的通用理论，我们这里主要考虑线性系统情况，它是最优控制的有用入门知识。

1.1 二次型与正定矩阵

为了进一步研究，我们构建一个二次型：
(\nu(X) = X’PX = p_{11}x_1^2 + p_{12}x_1x_2 + \cdots + p_{nn}x_n^2)
若矩阵 (P) 是正定矩阵（(P>0)），则 (\nu(X)) 是关于 (X) 的二次型。一个 (n\times n) 的矩阵 (P) 为正定矩阵需满足以下条件：
1. 对于任意 (X\in R^n)，(X’PX\geq0)。
2. (X’PX = 0) 当且仅当 (X = 0)。
3. (P = P’)（即对称）。

正定矩阵具有以下性质：
1. 所有特征值为实数且大于 (0)，则 (P^{-1}) 存在。
2. 特征向量正交，即 (\xi_i’\xi_j = 0)（(i\neq j)）。
3. 可以找到 (S’S = P)（例如通过 Cholesky 分解），且 (S) 可逆。
4. 对于任意 (X)，有 (0 < \lambda_{min}(P)X’X\leq X’PX\leq \lambda_{max}(P)X’X)。

方程 (X’PX = c) 在 (R^n) 中定义了一个椭球。

1.2 稳定性分析应用

研究无外力作用系统的稳定性：
(X(k + 1) = \Phi X(k) + \G