漫步凸分析五——函数运算

对于已知的凸函数,我们如何对他们进行使得产生的函数依然是凸的呢?目前已经证明了许多运算是保留凸性的,某些运算与平常分析中的运算是类似的,像函数的逐点加法,还有一些运算出自几何动机,像取函数集的凸包。通常来说许多构造函数可以表示成有约束的下确界,这启发我们可以用极值理论进行讨论。

特别地,当我们遇到一个形式复杂的函数,而需要去证明它是凸函数时,下面的定理是非常有用的。

定理5.1 f 是从Rn (,+] 的凸函数, φ 是从 R (,+]的凸函数并且是非递减的,那么 h(x)=φ(f(x)) Rn 上是凸的(其中我们令 φ(+)=+ )。

证明:对于 Rn 中的 x,y 以及 0<λ<1 ,我们有

f((1λ)x+λy)(1λ)f(x)+λf(y)

(定理4.1),这个不等式两边由代入 φ 中得

h((1λ)x+λy)φ((1λ)f(x)+λf(y))(1λ)h(x)+λh(y)

因此 h 是凸的(定理4.1)。||

根据定理5.1可以得出如果 f Rn上的正常凸函数,那么 h(x)=ef(x) Rn 上的正常凸函数。另外,当 f 是非负凸函数时,对于p>1,h(x)=f(x)p 是凸函数,为了证明它我们可以令

φ(ξ)={ξp0if ξ0if ξ<0

特别地,当 p1 时, h(x)=|x|p Rn 上的凸函数( |x| 是欧几里得范数)。如果 g 是凹函数,那么h(x)=1/g(x) C={x|g(x)>0} 凸函数。为了说明这个结论,在凸函数 f=g 上将 φ 定义为

φ(ξ)={1/ξ+if ξ<0if ξ0

φ R 上的仿射函数且斜率为正的λ,那么当 f 是正常的凸函数并且λ,α为实数 λ0 时, λf+α 是正常的凸函数。进一步基于定理5.1的实例会在定理15.3中给出。

定理5.2 如果 f1,f2 Rn 上的正常凸函数,那么 f1+f2 是凸的。

证明:从定理4.1中很明显得出结论。 ||

注意当且仅当 f1(x)<,f2(x)< 时, (f1+f2)(x)< ,所以 f1+f2 的有效定义域是 f1 f2 有效定义域的交集,当然交集可能为空,这时候 f1+f2 将是不正常的。定理5.2假设中的正常就是为了避免 f1+f2 的形式出现 这种情况。

正常凸函数非负系数的线性组合 λ1f1++λmfm 是凸的。

如果 f 是有限凸函数,C是非空凸集,那么

f(x)+δ(x|C)={f(x)+if xCif xC

其中 δ(|C) C 的指示函数,所以在f上加上指示函数意味着限制 f 的有效定义域。

Rn上构造凸函数的常用策略是在 Rn+1 上构造凸集 F ,然后取上境图为F下界的函数,如下面定理说述。

定理5.3 F Rn+1上的任意凸集,令

f(x)=inf{μ|(x,μ)F}

那么 f 就是Rn上的凸函数。

证明:从定理4.2中可以明显看出来。(注意实数空集合的下确界是 + ,这个规定对该定理非常有用) ||

作为定理5.3中方法的第一个应用,我们介绍函数运算,它将上境图的加法对应到 Rn+1 上的集合。

定理5.4 f1,,fm Rn 上的正常凸函数,令

f(x)=inf{f1(x1)++fm(xm)|xiRn,x1++xm=x}

那么 f Rn上的凸函数。

证明: Fi=epifi,F=F1++Fm ,那么 F Rn+1的凸集。根据定义,当且仅当存在 xiRn,μiR ,使得 μif(xi),μ=μ1++μm,x=x1++xm 时, (x,μ)F ,那么定理中定义的函数 f 就是根据定理5.3 从F中得到的函数。 ||

定理5.4中的函数 f f1f2fm,运算 叫做卷积下确界(infimal convolution),这个术语是基于以下事实:当仅涉及两个函数时, 可以表示成

(fg)(x)=infy{f(xy)+g(y)}

这和卷积积分的经典公式是类似的,卷积下确界和凸函数加法运算是对偶的,我们会在16节进行解释。

对于某点 aRn ,如果 g=δ(|a) (其中如果 xa ,那么 δ(x|a)= ,而且 δ(a|a)=0 ),那么 (fg)(x)=f(xa) ,因此 fδ(|a) 是这样的函数,它的上境图将 f 的上境图沿水平方向平移a得到。对任意函数 g,h(y)=f(y) ,卷积下确界 fg 可以表示成 g 加平移hδ(|x)(也就是平移量为 x 得到的函数)在Rn 上的下确界, fg 的有效定义域是 domf domg

f 为欧几里得范数,g是凸集 C 上的指示函数,我们可以得到

(fg)(x)=infy{|xy|+δ(y|C)}=infyC|xy|=d(x,C)

这就建立了距离函数 d(,C) 的凸性。

卷积下确界的其他实例将会在推论9.2.2中给出。

卷积下确界不一定确保凸函数正常,因为定理5.4公式中的下确界可能是 。按这个公式定义的不正常函数卷积下确界是不存在,这是因为不能存在 。然而, f1f2 可以用上境图加法的形式直接在从 Rn [,+] 的函数 f1,f2 上进行定义:

(f1f2)(x)=inf{μ|(x,μ)(epif1+epif2)}

作为从 Rn [,+] 上的函数运算,卷积下确界对交换律,结合律和凸性都满足,函数 δ(|0) 就像这种运算的单位元素。

我们已经指出非负左标量乘法保留凸性

(λf)(x)=λ(f(x))

右标量乘法有同样的运算,对于 Rn 上任意凸函数 f λ,0λ<,我们将 fλ 定义成从定理5.3得到的凸函数,其中 F=λ(epif) ,因此

(fλ)(x)=λf(λ1x),λ>0

而对于 λ=0 我们有

(f0)(x)=δ(x|0),f≢+

(如果 f+ ,那么很明显 f0=f )。当且仅当对于所有的 λ>0 fλ=f 时,函数 f 是正齐次的。

h Rn 中的任意凸函数,并令 F 是由epih生成的 Rn+1 中的凸锥,应用定理5.3到 F 上所得到的函数在Rn+1中有一个包含原点的凸锥(如它的上境图),这个函数 f 是最大的满足f(0)0,fh的正齐次凸函数,自然而然地,我们将称这个 f h生成的正齐次凸函数。因为 F 由原点和集合λ(epih)的并组成,其中 λ>0 ,所以当 h≢+ 我们有

f(x)=inf{(hλ)(x)|λ0}

当然,如果 x0 或者 h(0)<+ ,那么 λ=0 可以从下确界中忽略掉。

对于 Rn 上的任意正常凸函数 f Rn+1上定义为

g(λ,x)={(fλ)(x)+if λ0if λ<0

的函数 g 是正齐次正常凸函数,正齐次凸函数由

h(λ,x)={f(x)+if λ=1if λ1

特别地,对任意 xdomf φ(λ)=(fλ)(x) λ0 的正常凸函数。

Rn 上非空凸集 C 的gauge是由δ(|C)+1生成的正齐次凸函数,事实上对于 h(x)=δ(x|C)+1 我们有 (hλ)(x)=δ(x|λC)+λ ,这样的话

inf{(hλ)(x)|λ0}=inf{λ0|xλC}=γ(x|C)

定理5.5 任意凸函数集的逐点上确界是凸的。

证明:这个定理的证明基于凸集的并是凸的这个事实。实际上,如果

f(x)=sup{fi(x)|iI}

那么 f 的上境图是函数fi上境图的交,故得证。 ||

Rn 上集合 C 的支撑函数δ(|C)的凸性由定理5.5可以得出,因为根据定义这个函数是某个线性函数集的逐点上确界,即 y C上变化时的函数 ,y

下面进一步解释定理5.5,考虑这样一个函数 f ,它对每个向量x=(ξ1,,ξn)分配一个数值,这个值就是 x 中最大元素ξj,根据定理5.5可知这个函数 f 是凸的,因为它是线性函数x,ej的逐点上确界,其中 j=1,,n,ej n×n 单位矩阵的第 j 行。仔细观察也能看出f是正齐次的;事实上 f 是单纯形体

C={y=(η1,,ηn)|ηj0,η1++ηn=1}

的支撑函数。

函数

k(x)=max{|ξj||j=1,,n}

的凸性同样利用定理5.5看出来,这个函数称为 Rn 上的切比雪夫范数(Tchebycheff norm)。后面这个函数是凸集

D={y=(η1,,ηn)||η1|++|ηn|1}

的支撑函数,同时也是 n 为立方体

E={x=(ξ1,,ξn)|1ξj1,j=1,,n}

的gauge。
(任何非负支撑函数是某个包含原点的闭凸集的gauge,至于相反的结论将会在14 节给出)。

非凸函数 g 的凸包就是函数f=conv g,它可以从定理5.3中得到,其中

F=conv(epi g)

它是 g 的最大凸函数,根据定理2.3,点(x,μ)属于 F 当且仅当它可以表示凸组合

(x,μ)=λ1(x1,μ1)++λm(xm,μm)=(λ1x1++λmxm,λ1μ1++λmμm)

其中 (xi,μi)epi g (即 g(xi)μiR ),因此

f(x)=inf{λ1g(x1)++λmg(xm)|λ1x1++λmxm=x}

(假设 g 没有取的值,这样的话求和运算就非常清晰)。

任意 Rn 上凸函数集 {fi|iI} 的凸包表示成

conv{fi|iI}

它是函数集逐点下确界的凸包,即它是通过定理5.3从凸包 F 中得出的函数f F 就是函数fi上境图的并,它是 Rn 上使得对所有 xRn,iI f(x)fi(x) 的最大凸函数 f (不需要是正常的)。

定理5.6{fi|iI} Rn 上的正常凸函数集,其中 I 是任意索引集,令f是该集的凸包,那么

f(x)=inf{ΣiIλifi(xi)|ΣiIλixi=x}

其中下确界是在所有表示成 x xi凸组合上取得,这样的话只有有限多个系数 λi 是非零的。(如果我们将 xi 限制到 dom fi 上,公式依然成立)

证明:根据定义, f(x) 是使得 (x,μ)F 的值 μ 的下确界,其中 F 是非空凸集Ci=epi fi并的凸包。根据定理3.3, (x,μ)F 当且仅当 (x,μ) 可以表示成如下是形式的有限凸组合

(x,μ)=ΣiIλi(xi,μi)=(ΣiIλixi,ΣiIλiμi)

其中 (xi,μi)Ci (只有有限多个系数是非零的)。因此 f(x) ΣiIλiμi 在所有表示成 x 的有限凸组合ΣiIλiμi上的下确界,对于所有的 i,μifi(xi) 。这和定理中的下确界是一样的。 ||

当所有函数 fi 形式如下时

fi(x)=δ(x|ai)+αi={αi+if x=aiif xai

其中 ai,αi 分别是 Rn,R 中的一个固定值,定理5.6将会发挥作用,此时 f 是满足

f(ai)αiiI

的最大凸函数,而且我们有

f(x)=inf{ΣiIλiαi|ΣiIλiai=x}

其中下确吉是在所有表示成 x ai凸组合(只有有限个是非零系数)上取值。

定理5.6的增强版本将会在17节给出,它是Caratheodory定理的一个结论。

定理5.6中的公式也可以表示成卷积下确界,为了简化符号,我们假设 I=1,,m ,那么利用定理5.3, f 可以从集合

F=conv{C1,,Cm}={λ1C1++λmCm}

中得到,其中并运算是对集合 Ci=epi fi 的所有凸组合而言的(定理3.3)。但是 f1λ1fmλm 是利用定理5.3从 Rn+1 上凸集合 λ1C1++λmCm 中得到的,取 Rn+1 上上境图的并意味着取相应函数的逐点下确界,因此当 f1,,fm 是正常凸函数时, f=conv{f1,,fm} 也可以由

f(x)=inf{(f1λ1fmλm)(x)|λi0,λ1++λm=1}

给出。

Rn 上所有凸函数集是一个完全格(complete lattice),相对于逐点序(对于所有的 x ,当且仅当f(x)g(x)时, fg ),我们可以将其看成偏序集(partially ordered set)。凸函数 fi 族的最大下界是 conv{fi|iI} (相对于这个特定的偏序集!),而最小上界是 sup{fi|iI}

下面的定理涉及到线性变换。

定理5.7 A 是从Rn Rm 的线性变换,那么对于 Rm 上的每个凸函数 g ,定义为

(gA)(x)=g(Ax)

的函数 gA Rn 上是凸的。对于 Rn 上的每个凸函数 h ,定义为

(Ah)(y)=inf{h(x)|Ax=y}

的函数 Ah Rm 上是凸的。

证明:利用定理4.2的判定准则可以直接证明第一个结论。 f=Ah 的凸性通过将定理5.3应用到 h 上境图的像F上即可,其中上境图到 F 的像对应的关系是从Rn+1 Rm+1 的线性变换 (x,μ)(Ax,μ) ||

定理5.7中的函数 Ah 叫做 h A下的像,而 gA 叫做 g A下的逆像,这个术语表明 g,h 是凸集的指示函数。

考虑运算 hAh 的一个指示函数实例,我们这里给出的 A 是一个投影矩阵,对于

A:x=(ξ1,,ξm,ξm+1,,ξn)(ξ1,,ξm)

我们有

(Ah)(ξ1,,ξm)=infξm+1,,ξmh(ξ1,,ξm,ξm+1,ξn)

根据定理,当 h 是凸时,在y=(ξ1,,ξm)里上面的函数是凸的。

A 是非奇异时,Ah=hA1

上境图的部分和可以用来定义 Rn 上无穷多个凸函数交换结合二元运算。一个具体的实例是部分卷积下确界

h(y,z)=infu{f(y,zu)+g(y,u)}

其中 x=(y,z),yRm,zRp,m+p=n

对于凸集的情况,自然有四个交换结合二元运算,当集合是包含原点的锥时,这四个运算可以简化为两个,他们是从形如

K={(λ,x)|λ0,xλC}Rn+1

凸锥的部分和得到的,这个锥对应于 Rn 中的凸集 C ;参看定理3.6的讨论。当集合C用上境图替换时,很自然地可以在 Rn 的所有凸函数中得出八个类似的交换结合二元运算,特别地,我们将每个凸函数 f 和凸锥K(它是 h 生成的Rn+1中正齐次凸函数的上境图,其中 h(λ,x)=f(x)+δ(λ|1) )联系起来,如果 f 不恒等于+

K={(λ,x,μ)|λ0,xRn,μ(fλ)(x)}Rn+2

(如果 f=+ ,那么 K 是非负的μ轴)。在 Rn+2 中通过对三个参数 λ,,μ 进行不同的组合得到八种部分加法。对于每种情况,我们将锥 K1,K2 的部分和 K 对应于Rn中两个凸函数 f1,f2 ,然后我们将定理5.3应用到

F={(x,μ)|(1,x,μ)K}

得到 f ,最终的运算(f1,f2)f明显就是交换和结合。用这种方式定义的四中运算就是八种里面的,即,只在 μ 上相加得到 f1+f2 ,在 x,μ 上相加得到 f1f2 ,在 λ 上相加得到 conv{f1,f2} ,都不相加得到 f1,f2 的逐点最大,余下的四种运算在下面的定理中进行描述。(当然,这里 max{α1,,αm} 表示 m 个实值α1,,αm的最大值)

定理5.8 f1,,fm Rn 上的正常凸函数,那么下面的也是凸函数:

f(x)=inf{max{f1(x1),,fm(xm)}|x1++xm=x}g(x)=inf{(f1λ1)(x)++(fmλm)(x)|λi0,λ1++λm=1}h(x)=inf{max{(f1λ1)(x),,(fmλm)(x)}|λi0,λ1++λm=1}h(x)=inf{max{λ1f1(x1),,λmfm(xm)}}

其中最后的下确界在所有表示成 x 的凸组合x=λ1x1++λmxm上取值。

证明:基于之前的讨论,只在 x 上相加得到f,在 λ,μ 上相加得到 g ,只在λ上相加得到 h ,在λ,x上相加得到 k ||

定理5.8的第一个运算在 m=2 时可以表示成卷积形式:

f(x)=infymax{f1(xy),f2(y)}

观察这个运算可以得出,对于任意 α

x|f(x)<α={x|f1(x)<α}+{x|f2(x)<α}

第三个运算涉及到上境图的逆加法。

附:文章PDF版本http://pan.baidu.com/s/1o8B9Bom

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值