凸优化第三章凸函数 3.2保凸运算

原创

于 2019-01-18 09:59:27 发布 · 4.4k 阅读

18 ·

CC 4.0 BY-SA版权

本文详细介绍了凸优化中的保凸运算，包括非负加权求和、复合仿射映射、逐点最大和逐点上确界、复合函数以及透视函数。举例并证明了这些运算如何保持函数的凸性，特别是对于最大r个分量之和的函数和通过最小化凸函数得到的新函数，展示了它们的凸性特性。

部署运行你感兴趣的模型镜像

3.2保凸运算

非负加权求和
复合仿射映射
逐点最大和逐点上确界
复合
最小化函数
透视函数

非负加权求和

凸函数的非负加权求和得到的函数仍为凸函数

如果 $f_1(x),f_2(x)\cdots f_n(x)$ 均为凸函数， $\forall \, \alpha_i\geq 0,i=1,2\cdots n$ ， $f(x)=\alpha_1 f_1(x)+\alpha_2 f_2(x)+\cdots +\alpha_n f_n(x)$ 仍为凸函数。

证明：

$\forall x_1,x_2\in dom(f),\forall \theta \in [0,1]$ $h(x)=x$

$f(\theta x_1+(1-\theta)x_2)=\sum _{i=1}^n \alpha_i f_i(\theta x_1+(1-\theta)x_2)$

因为 $f_1(x),f_2(x)\cdots f_n(x)$ 是凸函数，故

$\sum _{i=1}^n \alpha_i f_i(\theta x_1+(1-\theta)x_2)\leq \sum _{i=1}^n\alpha_i (\theta f_i(x_i)+(1-\theta)f_i(x_2))$

$\sum _{i=1}^n\alpha_i (\theta f_i(x_i)+(1-\theta)f_i(x_2))=\sum _{i=1}^n \theta \alpha_i f_i(x_1)+(1-\theta)\alpha_i f_i(x_2)$

$=\theta \sum _{i=1}^n \alpha_i f_i(x_1)+(1-\theta)\sum _{i=1}^n\alpha_i f_i(x_2)=\theta f(x_1)+(1-\theta) f(x_2)$

$\Rightarrow f(\theta x_1+(1-\theta)x_2)\leq \theta f(x_1)+(1-\theta) f(x_2)$

得证

例子：

$f(x)=-\sum _{i=1}^n log(b_i-a_i^Tx)\, \, dom(f)=\left \{ x|a_i^Tx< b_i,i=1,2\cdots m \right \}$

复合仿射映射</

您可能感兴趣的与本文相关的镜像

PyTorch 2.6

PyTorch

Cuda

PyTorch 是一个开源的 Python 机器学习库，基于 Torch 库，底层由 C++ 实现，应用于人工智能领域，如计算机视觉和自然语言处理

最低0.47元/天解锁文章