闲扯数学规划问题(2)-Jacobian 矩阵

三维的情况

　　我们考虑一下三维的情况，问题模型如下，

$$\begin{array}{} max& f(x_1,x_2,x_3)\tag1\\ s.t.& g_1(x_1,x_2,x_3)=c_1\\ & g_2(x_1,x_2,x_3)=c_2\\ \end{array}$$
　　其中，约束条件确定了一条曲线。依据前面讨论，该曲线上使得目标函数取得最大值的位置，必定与该位置目标函数等高面 $f(x_1,x_2,x_3)=c$ 相切。换句话讲，曲线的切向方向与 $f(x_1,x_2,x_3)$ 梯度方向垂直。
$$\left\{ \begin{array}{} \frac{\partial g_1}{\partial x_1}dx_1&+&\frac{\partial g_1}{\partial x_2}dx_2&+&\frac{\partial g_1}{\partial x_3}dx_3&=&0\tag2\\ \frac{\partial g_2}{\partial x_1}dx_1&+&\frac{\partial g_2}{\partial x_2}dx_2&+&\frac{\partial g_2}{\partial x_3}dx_3&=&0\\ \end{array} \right.$$
其中，
$$G_x= \left ( \begin{array}{} \frac{\partial g_1}{\partial x_1} \frac{\partial g_1}{\partial x_2} \frac{\partial g_1}{\partial x_3}\tag3\\ \frac{\partial g_2}{\partial x_1} \frac{\partial g_2}{\partial x_2} \frac{\partial g_2}{\partial x_3}\\ \end{array} \right )$$
称为 Jacobian 矩阵。由 (2) 式可知，约束条件曲线的切线方向 $dx=(dx_1,dx_2,dx_3)$ 是 Jacobian 矩阵行向量所在平面的法线。哈哈，我们知道目标函数 $f(x_1,x_2,x_3$ 在路径最大值位置的梯度向量，必然落在 Jacobian 矩阵行向量确定的平面内。于是，
$$\nabla f(x_1,x_2,x_3) = \lambda_1 \nabla g_1(x_1,x_2,x_3)+\lambda_2 \nabla g_2(x_1,x_2,x_3)\tag4$$

　　接下来求解过程与二维情况完全一样，不再赘述。