Blacktone的博客

数学基础系列文章目录目录数学基础系列文章目录拉格朗日乘子法与KKT条件一、无约束优化二、带约束优化定义三、等式约束不等式约束五、约束优化总结拉格朗日对偶性一、对偶的可用性二、原始问题三、对偶问题四、原始问题和对偶问题的关系拉格朗日乘子法与KKT条件一、无约束优化  对于无约束优化，如果目标函数是凸函数，可直接通过令目标函数的梯度为零求得全局最优值；为避免陷入局部最优值，一般进行优化的目标函数采用凸函数；  凸集定义：在欧氏空间中，对于集合中任意两点的连线，连线上的点都在集合中，则该集合为凸集合

数学基础系列文章目录目录数学基础系列文章目录前提P类问题NP类问题NPC类问题NP难问题前提多项式定义：形如anxn+an−1xn−1+⋯+a1x1+a0=0a_nx^n+a_{n-1}x^{n-1}+\cdots+a_1x^1+a_0=0an​xn+an−1​xn−1+⋯+a1​x1+a0​=0的式子称为多项式；时间复杂度：表示算法运行得到解所需的时间；例子：冒泡排序法，有nnn个数需要排序，至多需要(n2−n)/2(n^2-n)/2(n2−n)/2次比较才能完成排序，当n→∞时，除了n2

数学基础系列文章目录目录数学基础系列文章目录Jensen 不等式Jensen 不等式凸函数中有一个性质，存在定义域中任意两点x1x_1x1​和x2x_2x2​，且有0⩽t⩽10\leqslant t\leqslant 10⩽t⩽1，得到t×f(x1)+(1−t)×f(x2)⩾f[tx1+(1−t)x2]t\times f(x_1) + (1-t)\times f(x_2)\geqslant f[tx_1 + (1 - t)x_2]t×f(x1​)+(1−t)×f(x2​)⩾f[tx1​+(1−t)