线性规划——对偶问题的推导_线性规划对偶证明-优快云博客

本文探讨了线性规划的原问题与对偶问题，通过引入拉格朗日函数，详细推导了从原问题到对偶问题的转换过程。展示了如何通过对偶问题求解原问题，并解释了其在优化理论中的应用。

原问题

$Ax=bx≥0(1)\min_x \;c^Tx\\s.t. \;Ax=b\\x\geq 0 \tag{1}$

对偶问题

$ATy+s=cs≥0(2)\max_y\;b^Ty\\s.t.\;A^Ty+s=c\\s\geq 0\tag{2}$
$\in \R^{m\times n}, x \in \R^{n}, s \in \R^{n}, y \in \R^{m}$

推导

引入拉格朗日函数: $L(x,λ,μ)=cTx+λT(Ax−b)−μTxL(x,\lambda,\mu) = c^Tx+\lambda^T(Ax-b)-\mu^T x$ 要求 $μ>0\mu >0$ ， $λ\lambda$ 随意。容易验证： $sup⁡λ,μL(x,λ,μ)=cTx\sup_{\lambda,\mu} L(x,\lambda,\mu) = c^Tx$ 因而原问题就等价于： $inf⁡x∈Dsup⁡λ,μL(x,λ,μ),(P)\inf_{x\in D}\sup_{\lambda,\mu} L(x,\lambda,\mu), \tag{P}$ 其中可行域 $D={x∣Ax=b,x≥0}D=\{x| Ax=b, x \geq 0\}$ 。下面我们构造对偶问题：
$\sup_{\lambda,\mu}\inf_{x} L(x,\lambda,\mu). \tag{D}$
先对 x 取下界：
$otherwise\inf_{x} L(x,\lambda,\mu) \\= -\lambda^Tb + \inf_x{(c+A^T\lambda -\mu)^Tx} \\=\left\{ \begin{array}{lr} -\lambda^Tb, \;\;\;\;c+A^T\lambda -\mu=0& \\ -\infty, \;\;\;\;\;\;\;otherwise& \end{array} \right.$
显而易见，对偶问题 (D) 值有当 $c+ATλ−μ=0c+A^T\lambda -\mu=0$ 时才有意义。所以对偶问题写成： $ATλ−μ+c=0μ≥0\max_\lambda\;-b^T\lambda\\s.t.\; A^T\lambda-\mu+c=0\\\mu\geq 0$ 令 $-\lambda, s=\mu$ 即变成问题 (2)。