3、工程数学基础：从线性化到非线性方程求解

工程数学基础：从线性化到非线性方程求解

在工程领域，尤其是涉及到复杂系统的分析与优化时，数学工具起着至关重要的作用。本文将深入探讨一系列数学概念，包括线性化、雅可比矩阵、二阶导数、向量和矩阵的导数、子空间、收敛速率、函数与集合的性质以及非线性方程组的求解方法。

1. 线性化与雅可比矩阵

在工程应用中，线性化是一种常用的近似方法。然而，当扰动 $\Delta x$ 增大时，线性化的精度会开始下降。因此，线性化通常在展开点周围的“信任区域”内使用，以保证合理的精度。

在许多工程问题中，我们会同时考虑多个函数。这些函数可能代表电路在多个频率下的响应。此时，我们有一个函数向量，其中每个函数都依赖于参数。一个包含 $m$ 个函数的向量可以表示为：
[
f(x) =
\begin{bmatrix}
f_1 \
f_2 \
\vdots \
f_m
\end{bmatrix}^T
]

每个函数关于参数 $x$ 都有其梯度。雅可比矩阵是将所有这些梯度组合在一起的矩阵，其表达式为：
[
J(x) =
\begin{bmatrix}
\nabla f_1^T \
\nabla f_2^T \
\vdots \
\nabla f_m^T
\end{bmatrix}
=
\begin{bmatrix}
\frac{\partial f_1}{\partial x_1} & \frac{\partial f_1}{\partial x_2} & \cdots & \