1、优化中的数学基础与向量运算

优化中的数学基础与向量运算

1. 引言

数学是表达优化理论中不同概念和定理的语言。就像学习一门语言需要掌握字母、单词和符号这些基本构建块一样，要在优化理论中运用自如，也需掌握相关的数学概念。接下来将简要回顾一些后续内容所需的数学概念，包括向量和矩阵的性质、优化理论中的常用术语，以及线性方程组解的性质。

2. 向量

2.1 向量的定义与表示

向量是将多个变量或参数组合在一起的一种形式，它为处理这些参数提供了更紧凑的方式。一般的 $n$ 维实向量 $x \in \mathbb{R}^n$ 可表示为：
[
x =
\begin{bmatrix}
x_1 \
x_2 \
\vdots \
x_n
\end{bmatrix}
= [x_1 \ x_2 \ \cdots \ x_n]^T
]
其中，$x_i$（$i = 1, 2, \cdots, n$）是向量 $x$ 的第 $i$ 个分量。这里采用列向量表示法，默认所有向量都是列向量。上标 “$T$” 表示转置运算符，它能将行向量转换为列向量，反之亦然。在 MATLAB 代码输出中，也用 “$’$” 表示列向量的转置。

2.2 向量在实际中的意义

在优化理论中，向量的分量通常以抽象方式使用，不一定赋予物理意义。但在实际应用中，这些分量具有明确含义。例如，在一个包含两个电阻、两个电感和两个电容的电路中，优化参数可表示为：
[
x = [R_s \ C_1 \ L_1 \ C_2 \ L_2 \ R_L]^T
]
这些参数的数