线性规划-单纯形法

Linear Programming问题的数学模型：

使用简单的符号变换，引入松弛变量，将约束变为等式形式，LP问题的标准形式可写作：
$$\begin{array}{rl}\max & z=\sum _{j=1}^n{c}_j{x}_j\\ \text{ s.t. }& \{\begin{array}{l}{\sum }_{j=1}^n{a}_{ij}{x}_j=b_i,(i=1,2,\dots ,m)\\ x_j\ge 0,(j=1,2,\dots ,n)\end{array}\end{array}$$
或
$$\begin{array}{rl}\max & z={\mathbf{c}}^T\mathbf{x}\\ \text{ s.t. }& \{\begin{array}{l}\mathbf{Ax}=\mathbf{b}\\ \mathbf{x}\ge 0\end{array}\end{array}$$

LP问题相应术语：

• 超平面 (hyperplane):
  约束方程任一等式约東: ${\mathbf{a}}_i\mathbf{x}=b_i$, 称 H i = { x ∣ a i x = b i } \mathscr{H}_i=\left\{\mathbf{x} \mid \mathbf{a}_i \mathbf{x}=b_i\right\} Hi​={ x∣ai​x=bi​} 为超平面 (hyperplane), 其中 $\mathbf{a}$为决定平面的法线.
  超平面 ${\mathcal{H}}_i$ 将空间 ${\mathbb{R}}^n$ 分成三个部分: $\left({\mathbf{a}}_i\mathbf{x}=b_i\right)$
  $$\begin{array}{rll}{\mathcal{H}}_i^U\text{ (开): }& {\mathbf{a}}_i\mathbf{x}>b_i& \text{ 上半空间 (Upper halfspace) }\\ {\mathcal{H}}_i:& {\mathbf{a}}_i\mathbf{x}=b_i& \text{ 超平面 (hyperplane) }\\ {\mathcal{H}}_i^L(\text{ 开)： }& {\mathbf{a}}_i\mathbf{x}<b_i& \text{ 下半空间 (Lower halfspace) }\end{array}$$

• LP问题解的可能情况：
  唯一解；无穷多解；无界解；无解

• LP问题一些解的概念：
  可行解：标准形式的线性规划问题中, 凡满足所有约束条件的解 $\mathbf{x}$ 称为问题的可行解，将这些可行解构成的集合称为可行解集或可行域.
  基：约束方程的矩阵形式中, 等式约束所对应的系数矩阵 $\mathbf{A}$ 中线性独立的列向量称为基.
  $$\left[\begin{array}{lll}1& 0& 1\\ 0& 1& 1\\ 0& 0& 0\end{array}\right]\left[\begin{array}{l}{x}_1\\ x_2\\ x_3\end{array}\right]=\left[\begin{array}{l}{b}_1\\ b_2\\ b_3\end{array}\right]$$
  此时前两列可以被视作基；
  基变量：约束方程的矩阵形式中，系数矩阵的列向量与变量一一对应. 当取定基以后, 与基对应的决策变量称为基变量, 其它的决策变量称为非基变量.
  对上式而言，$x_1$与$x_2$为基变量，$x_3$为非基变量；
  基解：令非基变量全部取零,由等式约束解出的基变量的唯一解, 称为基解.
  基可行解：满足非负约束的基解称为基可行解.
  可行基：对应基可行解的基称为可行基.
  上述概念的包含关系如下：
  

• 上述概念In Depth：
  设矩阵 $\mathbf{A}$ 的秩为 $m$, 又假设 $\mathbf{A}=[\mathbf{B},\mathbf{N}]$, 其中 $\mathbf{B}$ 是 $m$ 阶可逆矩阵. 如果 $\mathbf{A}$ 的前 $m$ 列是线性相关的, 可以通过列调换, 使前 $m$ 列成为线性无关的, 因此关于 $\mathbf{B}$ 可逆的假设不失一般性. 同时记作
  $$x=\left[\begin{array}{l}{x}_B\\ x_N\end{array}\right]$$
  故等式约束可进一步写为：
  $$\begin{array}{rl}& [\mathbf{B},\mathbf{N}]\left[\begin{array}{l}{x}_B\\ x_N\end{array}\right]=b,\\ & \mathbf{B}{x}_B+\mathbf{N}{x}_N=b,\\ & {\mathbf{x}}_{\mathbf{B}}={\mathbf{B}}^{-1}b-{\mathbf{B}}^{-1}\mathbf{N}{x}_N.\end{array}$$
  进一步地，令$x_N=0$，得到的
  x = [ x B x N ] = [ B − 1 b 0 ] \boldsymbol{x}=\left[\begin{array}{l} x_B \\ x_N \end{array}\right]=\left[\begin{array}{c} B^{-1} b \\ 0 \end{array}\right] x=[x