漫步凸分析八——回收锥与无界

$R^n$中的有界闭子集通常比无界的更容易处理，然而，当集合为凸时，无界的困难度就下降很多，这实在是一大幸事，因为我们考虑的许多集合像上境图从他们的性质可知是无界的。

根据我们的直观理解，无界闭凸集在无穷远处行为比较简单，假设$C$是这样的一个集合并且$x$是$C$中的一点，那么似乎$C$必须包含以$x$为起点的某个整条半线，否则的话这就与无界相矛盾。这条半线的方向似乎不依赖于$x$：$C$中从另一个以$y$为起点的半线很明显仅仅是以$x$为起点的半线平移得到的，这些方向可以看成$C$中位于无穷远处的理想点，经过几何投影后得到一个水平点。那么$C$中以$x$为起点的半线可以理解成连接$x$与这种理想点之间的线段。

下面我们就需要将这些直观概念放到坚实的数学基础上并将其应用到凸函数的学习中。

首先我们来看如果将方向的概念形式化，$R^n$中的每个半线应该有一个方向，如果两条半线互相之间通过平移可以得到，那么他们的方向是一样的，因为我们将$R^n$中的方向定义为$R^n$中等价关系下的所有闭半线集，这个等价关系是半线$L_1$是半线$L_2$的平移得到的，那么根据定义，半线$\{x+\lambda y|\lambda\geq0\},y\neq0$的方向就是半线平移后得到的所有半线集合，它与$x$无关，我们也可以成它为$y$的方向。对于$R^n$中的两个向量，当且仅当他们互相是正倍数关系时，他们的方向相同，零向量没有方向，谈到这，相信大家对于给定方向的反方向是何意都会很清楚了。

$R^n$中的点和$R^{n+1}$中超平面$M=\{(1,x)|x\in R^n\}$ 的点有很自然的对应关系，点$x\in R^n$可以用射线$\{\lambda(1,x)|\lambda\geq0\}$表示，那么$R^n$的方向可以用射线$\{\lambda(0,y)|\lambda\geq0\},y\neq0$表示，这条射线位于平行于$M$且过$R^{n+1}$原点的超平面上，这表明可以将$R^n$的方向看成$R^n$中无穷远处的点。(这个用法不同于投影集合)对于$R^{n+1}$中两条射线的凸包，他们与$M$ 相交的部分对应于$R^n$中表示他们的线段，如果一条射线表示无穷远处的一点，那么我们得出的不是线段而是一条半线。

令$C$是$R^n$中的非空凸集，当$C$包含所有以$C$中点为起点，方向是$D$的半线时，我们称$C$在方向$D$上回退(recede)，换句话说，$C$在$y,y\neq0$方向上回退，当且仅当对于每个$\lambda\geq0,x\in C$时$x+\lambda y\in C$。 所有满足这个条件的向量$y\in R^n$的集合(包括y=0)称为$C$ 的回收锥(recession cone)，$C$的回收锥将用$0^+C$表示，究其原因，不久进行解释。$C$回退的方向也称之为$C$的回收方向。

在其他地方，$\text{cl}\ C$的回收锥也称为$C$的渐近锥(asymptotic cone)，这里我们不采用这个术语，因为它与渐近线(asymptote)和渐近(asymptotic)的其他用法不一致，可能引起歧义。

$\textbf{定理8.1}$ 令$C$是非空凸集，那么回收锥$0^+C$是包含原点的凸锥，它与使得$C+y\subset C$的向量$y$的集合是一样的。

$\textbf{证明：}$每个$y\in0^+C$有一个性质，即对于每个$x\in C,x+y\in C$，也就是$C+y\subset C$。另一方面，如果$C+y\subset C$，那么

$$C+2y=(C+y)+y\subset\subset C+y\subset C$$

等等，这就表明对于每个$x\in C$和正整数$m,x+my\in C$，那么根据凸性，加入点$x\in C,x+y,x+2y$的线段都包含在$C$ 中，这样的话对于每个$\lambda\geq0,x+\lambda y\in C$，所以$y\in0^+C$。因为正标量乘法不改变方向，所以$0^+C$就是一个锥，接下来就剩证明$0^+C$的凸性。如果$y_1,y_2$ 是$0^+C$中的向量且$0\leq\lambda\leq1$，我们有

$$\begin{align*} (1-\lambda)y_1+\lambda y_2+C=(1-\lambda)(y_1+C)+&\lambda(y_2+C)\\ &\subset(1-\lambda)C+\lambda C=C \end{align*}$$

(利用定理3.2的分配率)因此$(1-\lambda)y_1+\lambda y_2$ 在$0^+C$中。$||$

这里举一些$R^2$中凸集合回收锥的例子，对于凸集

$$\begin{align*} C_1&=\{(\xi_1,\xi_2)|\xi_1>0,\xi_2\geq1/\xi_1\}\\ C_2&=\{(\xi_1,\xi_2)|\xi_2\geq\xi_1^2\}\\ C_3&=\{(\xi_1,\xi_2)|\xi_1^2+\xi_2^2\leq1\}\\ C_4&=\{(\xi_1,\xi_2)|\xi_1>0,\xi_2>0\}\cup\{(0,0)\} \end{align*}$$

我们有

$$\begin{align*} 0^+C_1&=\{(\xi_1,\xi_2)|\xi_1\geq0,\xi_2\geq0\}\\ 0^+C_2&=\{(\xi_1,\xi_2)|\xi_1=0,\xi_2\geq0\}\\ 0^+C_3&=\{(\xi_1,\xi_2)|\xi_1=0=\xi_2\}=\{(0,0)\}\\ 0^+C_4&=\{(\xi_1,\xi_2)|\xi_1>0,\xi_2>0\}\cup\{(0,0)\}=C_4 \end{align*}$$

当然，非空仿射集$M$的回收锥是平行于$M$的子空间$L$，如果$C$是$R^n$上弱线性不等式组的解集，

$$C=\{x|\langle x,b_i\rangle\geq\beta,\forall i\in I\}\neq\emptyset$$

$C$的回收锥是由对应的齐次不等式组给出，很容易证实：

$$0^+C=\{x|\langle x,b_i\rangle\geq0,\forall i\in I\}$$

当$R^n$中的点用上面介绍的$R^{n+1}$中射线表示时，非空凸集$C$可以表示成这些射线的并，这个并是凸锥

$$K=\{(\lambda,x)|\lambda\geq0,x\in\lambda C\}$$

除了原点外，全都位于开半空间$\{(\lambda,x)|\lambda>0\}$上，现在我们考虑如何将$K$放大成形如$K\cup K_0$的凸锥，其中$K_0$是位于超平面$\{(0,x)|x\in R^n\}$中的一个锥。因为$K$已经是一个锥了，要想使$K\cup K_0$是凸锥的充分必要条件是$K_0$是凸集并且$K+K_0\subset K\cup K_0$(定理2.6)。当且仅当每个$(1,x^{'})\in K_0$满足：对每个$(1,x^{'})\in K$时$(1,x^{'})+(0,x)$属于$K$，那么我们有$K+K_0\subset K\cup K_0$，这个性质意味着对每个$x^{'}\in C,x^{'}+x\in C$，因此根据定理8.1可知$x\in0^+C$，那么在半空间$\{(\lambda,x)|\lambda\geq0\}$中存在一个唯一的最大凸锥$K^{'}$，它与半空间$\{(\lambda,x)|\lambda>0\}$的交集是$K\backslash\{(0,0)\}$，即

$$K^{'}=\{(\lambda,x)|\lambda>0,x\in\lambda C\}\cup\{(0,x)|x\in0^+C\}$$

这时候，$0^+C$可以看成$\lambda\to0^+$时$\lambda C$的值。

$\textbf{定理8.2}$ 令$C$是$R^n$中的非空闭凸集，那么$0^+C$ 是闭的并且它有形如$\lambda_1x_1$,$\lambda_2x_2$,$\ldots$ 序列的所有可能极限组成，其中$x_i\in C,\lambda_i\downarrow0$。 事实上，对于由$\{(1,x)|x\in C\}$生成的$R^{n+1}$中的凸锥$K$，我们有

$$\text{cl}\ K=K\cup\{(0,x)|x\in0^+C\}$$

$\textbf{证明：}$超平面$M=\{(1,x)|x\in R^n\}$肯定和$\text{ri}\ K$ 相交(推论6.8.1)，所以根据推论6.5.1中的闭包法则我们有

$$M\cap\text{cl}\ K=\text{cl}(M\cap K)=M\cap K=\{(1,x)|x\in C\}$$

因此定理前面刚刚定义的锥$K^{'}$肯定包含$\text{cl}\ K$，因为其最大属性。另一方面，因为$K^{'}$包含在半空间$H=\{(\lambda,x)|\lambda\geq0\}$ 中且与$\text{int}\ H$ 相交，所以$\text{ri}\ K^{'}$肯定完全包含在$\text{int}\ H$中(推论6.5.2)，因此$\text{ri}\ K^{'}\subset K$时我们有

$$\text{cl}\ K\subset K^{'}\subset\text{cl}(\text{ri}\ K^{'})\subset\text{cl}\ K$$

这就证明了定理中的公式$\text{cl}\ K=K^{'}$，集合$\{(0,x)|x\in0^+C\}$是$\text{cl}\ K$与$\{(0,x)|x\in R^n\}$的交集，所以它是闭的且由形如$\lambda_1(1,x_1),\lambda_2(1,x_2),\ldots$序列的极限组成，其中$x_i\in C,\lambda_i\downarrow0$。$||$

有一个事实是当$C$不是闭的，那么$0^+C$将不是闭的，如上面$C_4$所示。

假设$C$是闭的凸集且$z$是这样的一个点，对于某个$x\in C$，$x,z$线段之间的相对内点位于$C$中，那么$z\in C$，这样的话对于每个$x\in C$，相同的性质同样成立。下一个定理可以看成将这个事实推广到$z$是无穷远处的情况。

$\textbf{定理8.3}$ 令$C$是非空闭凸集并且$y\neq0$，如果存在一个$x$，使得半线$\{x+\lambda y|\lambda\geq0\}$包含在$C$ 中，那么对于每个$x\in C$，该结论同样成立，即我们有$y\in0^+C$。甚至对于每个$x\in\text{ri}\ C,\{x+\lambda y|\lambda\geq0\}$包含在$\text{ri}\ C$ 中，这样的话$y\in0^+(\text{ri}\ C)$。

$\textbf{证明：}$令$\{x+\lambda y|\lambda\geq0\}$包含在$C$ 中，那么$y$是序列$\lambda_1x_1,\lambda_2x_2,\ldots$的极限，其中$\lambda_k=1/k,x_k=x+ky\in C$，于是根据定理8.2 可知$y\in0^{+}C$。定理的另一个断言从以下事实即可得到：$C$ 中与$\text{ri}\ C$相交的任何线段肯定有内点在$\text{ri}\ C$中(定理6.1)。$||$

$\textbf{推论8.3.1}$ 对于任意非空凸集$C$，我们有$0^+(\text{ri}\ C)=0^+(\text{cl}\ C)$，事实上，给定任意$x\in\text{ri}\ C$，当且仅当对于每个$\lambda>0,x+\lambda y\in C$时，我们有$y\in0^+(\text{cl}\ C)$。

$\textbf{推论8.3.2}$ 如果$C$是包含原点的闭凸集，那么

$$0^+C=\{y|\varepsilon^{-1}y\in C,\forall\varepsilon>0\}=\cap_{\varepsilon>0}\varepsilon C$$

$\textbf{推论8.3.3}$ 如果$\{C_i|i\in I\}$是$R^n$中的任意闭凸集，且他们的交集不为空，那么

$$0^+(\cap_{i\in I}C_i)=\cap_{i\in I}0^+C_i$$

$\textbf{证明：}$令$x$是闭凸集$C=\cap_{i\in I}C_i$中的任意一点，给定一个向量$y$，当且仅当半线$\{x+\lambda y|\lambda\geq0\}$包含在每个$C_i$中时，$y$的方向是$C$回退的方向，但是这也意味着每个$C_i$在$y$方向上回退。

$\textbf{推论8.3.4}$ 令$A$是从$R^n$到$R^m$的线性变换，$C$ 是$R^m$ 中的闭凸集，使得$A^{-1}C\neq\emptyset$，那么$0^+(A^{-1}C)=A^{-1}(0^+C)$。

$\textbf{证明：}$因为$A$是连续的并且$C$是闭的，所以$A^{-1}C$是闭的。取$x\in A^{-1}C$，当且仅当对每个$\lambda\geq0$时，$C$包含$A(x+\lambda y)=Ax+\lambda Ay$，我们有$y\in0^+(A^{-1}C)$，这就意味着$Ay\in0^+{C}$ 即$y\in A^{-1}(0^+C)$。$||$

当$C$不为闭时，定理8.3的第一个断言不满足：上面的$C_4$ 包含形如$(1,1)+\lambda(1,0)$的所有点组成的半线，但是$(1,0)$不属于$0^+(\text{ri}\ C_4)$，另外联系到推论8.3.1， 我们还能看出$0^+(\text{ri}\ C_4)$比$0^+C_4$要适当的大一点。

任何无界闭凸集至少包含一个无穷远处的点，即至少有一个回退方向，我们在接下里的定理中说明这个问题。因此，无界是 我们想到的最简单的形式。

$\textbf{定理8.4}$ 对于$R^n$中的一个非空闭凸集，当且仅当它的回收锥只由零向量组成时，它是有界的。

$\textbf{证明：}$如果$C$是有界的，那么它肯定不包含半线，这样的话$0^+C={0}$。另一方面，如果$C$是无界的，那么它包含一个非零向量序列$x_1,x_2,\ldots$，并且他们的欧几里得范数$|x_i|$无限制的增加，向量$\lambda_ix_i$都属于单位球$S=\{x||x|=1\}$，其中$\lambda_i=1/|x_i|$。因为$S$ 是$R^n$的闭有界子集，所以$\lambda_1x_1,\lambda_2x_2,\ldots$的某个子序列将会收敛到某个值$y$，且$y\in S$，根据定理8.2可知，这个$y$是$0^+C$的一个非零向量。$||$

$\textbf{推论8.4.1}$ 令$C$是闭的凸集，$M$是仿射集且使得$M\cap C$ 是非空有界的，那么对于每个平行于$M$的仿射集$M^{'},M^{'}\cap C$是有界的。

$\textbf{证明：}$根据平行的定义我们有$0^+M^{'}=0^+M$，假设$M^{'}\cap C$ 不是空的，那么根据推论8.3.3我们有

$$0^+(M^{'}\cap C)=0^+M^{'}\cap 0^+C=0^+M\cap 0^+C=0^+(M\cap C)$$

因为$M\cap C$是有界的，这就表明$0^(M^{'}\cap C)=0$，于是$M^{'}\cap C$ 是有界的。$||$

如果$C$是非空凸集，那么集合$(-0^+C)\cap0^+C$就称为$C$ 的线性空间(lineality space)，它由零向量和所有满足条件的非零向量$y$组成，该条件就是对于每个$x\in C$，通过$x$ 并且方向为$y$的那条直线依然含于$C$中。线性空间中向量$y$的方向叫做$C$是线性的方向，当然如果$C$是闭的并且包含某条线$M$，那么所有平行于$M$且通过$C$中点的直线含于$C$，(这是定理8.3的特殊情况)线性空间与使得$C+y=C$的向量$y$集合是一样的。

$C$的线性空间是一个子空间，含于凸锥$0^+C$的最大子空间(定理2.7)，它的维数称为$C$的线性度(lineality)。

例如考虑圆筒

$$C=\{(\xi_1,\xi_2,\xi_3)|\xi_1^2+\xi_2^2\leq1\}\subset R^3$$

$C$的线性空间是$\xi_3$轴，所以$C$的线性度是1，实际上这里的$C$是直线和圆盘的直和。

一般而言，如果$C$是非平凡线性空间$L$中的非空凸集，显然我们可以将$C$表示成直和的形式

$$C=L+(C\cap L^{\perp})$$

其中$L^{\perp}$是$L$的正交补，该表达式中集合$C\cap L^{\perp}$的线性度是0，$C\cap L^{\perp}$的维数(也就是$C$的维数减去$C$的线性度)称为$C$ 的秩(rank)，它是$C$非线性的度量。

秩为0的凸集是仿射集，当且仅当闭凸集不包含直线时，它的秩和它的维数一致。

考虑

$$C=\{x|\langle x,b_i\rangle\geq\beta_i,\forall i\in I\}$$

$C$的线性空间$L$由方程组

$$L=\{x|\langle x,b_i\rangle=0,\forall i\in I\}$$

给出。

接下来我们将上面的结果应用到凸函数上。令$f$是$R^n$上不恒等于$+\infty$ 的凸函数，$f$的上境图有一个回收锥$0^+(\text{epi}\ f)$，根据定义，当且仅当对于每个$(x,\mu)\in\text{epi}\ f,\lambda\geq0$时

$$(x,\mu)+\lambda(y,v)=(x+\lambda y,\mu+\lambda v)\in\text{epi}\ f$$

成立，那么$(y,v)\in0^+(\text{epi}\ f)$，这就意味着对于每个$x,\lambda\geq0$

$$f(x+\lambda y)\leq f(x)+\lambda v$$

实际上，根据定理8.1，对于每个$x,\lambda\geq0$，要想使不等式成立，只需要对每个$x,\lambda=1$成立即可。给定一个$y$值，使得$(y,v)\in0^+(\text{epi}\ f)$的$v$值将形成$R$上的一个无界闭区间或者空区间，从而$0^+(\text{epi}\ f)$是某个函数的上境图，我们称这函数为$f$的回收函数并且用$f0^+$表示。那么根据定义

$$\text{epi}(f0^+)=0^+(\text{epi}\ f)$$

从而$f0^+$符号与我们之前第5节介绍的右标量乘法符号是一致的。

$\textbf{定理8.5}$ 令$f$是正常凸函数，那么$f$的回收函数$f0^+$是正齐次正常凸函数。对于每个向量$y$，我们有

$$(f0^+)(y)=\sup\{f(x+y)-f(x)|x\in\text{dom}\ f\}$$

如果$f$是闭的，那么$f0^+$也是闭的并且对于任意$x\in\text{dom}\ f,f0^+$ 由下面的形式给出

$$(f0^+)(y)=\sup_{\lambda>0}\frac{f(x+\lambda y)-f(x)}{\lambda}=\lim_{\lambda\to\infty}\frac{f(x+\lambda y)-f(x)}{\lambda}$$

$\textbf{证明：}$第一个公式观察即可得出。条件$v\geq(f0^+)(y)$也意味着

$$v\geq\sup_{\lambda>0}\{[f(x+\lambda y)-f(x)]/\lambda\},\quad\forall x\in\text{dom}\ f$$

(注意，从此是可以得出$(f0^+)(y)$不可能是$-\infty$)对于任意固定值$x\in\text{dom}\ f$，上确界给出了最小的实数值$v$，使得$\text{epi}\ f$ 包含起点为$(x,f(x))$方向为$(y,v)$的半线。如果$f$是闭的，那么$\text{epi}\ f$是闭的并且根据定理8.3，这个$v$与$x$无关，这就证明了定理中第二个上确界。因为利用函数$f$的凸性，差商$[f(x+\lambda y)-f(x)]/\lambda$ 是$\lambda$的非递减函数(定理23.1)，所以上确界与$\lambda\to\infty$的极限是一样的。上境图$\text{epi}\ f$是非空凸锥，如果$f$ 是闭的它也是闭的；因此，$f0^+$就是一个正齐次正常凸函数，如果$f$ 是闭的它也是闭的。$||$

$\textbf{推论8.5.1}$ 令$f$是正常凸函数，那么$f0^+$至少是使得

$$f(z)\leq f(x)+h(z-x),\forall z,\forall x$$

的函数$h$。

当$f$是闭的正常凸函数时，$f$的回收锥可以闭包结构。令$f$是由$h$生成的正齐次凸函数，其中

$$h(\lambda,x)=f(x)+\delta(\lambda|1)$$

换句话说，

$$g(\lambda,x)= \begin{cases} (f\lambda)(x)&\text{if}\quad\lambda\geq0\\ (f0^+)(x)&\text{if}\quad\lambda=0\\ +\infty&\text{if}\quad\lambda<0 \end{cases}$$

$\textbf{推论8.5.2}$ 如果$f$是任意闭正常凸函数，那么对于每个$y\in\text{dom}\ f$我们有

$$(f0^+)(y)=\lim_{\lambda\downarrow0}(f\lambda)(y)$$

如果$0\in\text{dom}\ f$，那么这个公式对每个$y\in R^n$ 成立。

$\textbf{证明：}$如果$0\in\text{dom}\ f$，那么定理8.5中第二个公式变成

$$(f0^+)(y)=\lim_{\lambda\uparrow\infty}[f(\lambda y)-f(0)]/\lambda=\lim_{\lambda\downarrow0}\lambda f(\lambda^{-1}y)$$

即使$0\notin\text{dom}\ f$，根据推论7.5.1，当对某个$\lambda>0,(\lambda,y)$属于$\text{dom}(\text{cl}\ g)$ 时，我们有($g$ 如上面所示)

$$(\text{cl}\ g)(0,y)=\lim_{\lambda\downarrow0}(\text{cl}\ g)(\lambda,y)$$

证毕。$||$

为了说明这个定理，我们考虑下面的函数

$$f_1(x)=(1+\langle x,Qx\rangle)^{1/2}$$

其中$Q$是$n\times n$的对称半正定矩阵。($f_1$的凸性可从定理5.1推出，而$f_0(x)=\langle x,Qx\rangle^{1/2}$的凸性通过对角化$Q$可以看出)根据推论8.5.2，

$$\begin{align*} (f_10^+)(y) &=\lim_{\lambda\downarrow0}\lambda f_1(\lambda^{-1}y)\\ &=\lim_{\lambda\downarrow0}(\lambda^2+\langle y,Qy\rangle)^{1/2}=\langle y,Qy\rangle^{1/2} \end{align*}$$

另一方面，对于

$$f_2(x)=\langle x,Qx\rangle=\langle a,x\rangle+\alpha$$

利用同样的公式可得

$$\begin{align*} (f_20^+)(y) &=\lim_{\lambda\downarrow0}[\lambda^{-1}\langle y,Qy\rangle+\langle a,y\rangle+\lambda\alpha]\\ &=\begin{cases} \langle a,y\rangle&\text{if}\quad Qy=0\\ +\infty&\text{if}\quad Qy\neq0 \end{cases} \end{align*}$$

特别地，当$Q$是正定的(即也是非奇异的)时候，我们有$f_20^+=\delta(\cdot|0)$，当然对于任何有效定义域为有界的正常凸函数，公式依然成立。

一个非常有趣的例子是

$$f_3(x)=\log(e^{\xi_1}+\cdots+e^{\xi_n}),\quad x=(\xi_1,\ldots,\xi_n),n>1$$

($f_3$的凸性由定理4.5可得，但是利用定理16.4可以以推导出来)另外一个例子是

$$(f_30^+)(y)=\max\{\eta_j|j=1,\ldots,n\},\quad y=(\eta_1,\ldots,\eta_n)$$

虽然$f_30^+$处处有限且$f_3$本身有解析式，但是$f_30^+$ 确实不可微的。

闭正常凸函数$f$的回收锥可以表征与$f$共轭凸函数有效定义域的支撑函数，这将在定理13.3中讨论。

$\textbf{定理8.6}$ 令$f$是正常凸函数，$y$是一个向量，如果对于给定的$x$，我们有

$$\lim_{\lambda\to+\infty}\inf f(x+\lambda y)<+\infty$$

那么$x$将会有下面的性质：$f(x+\lambda y)$是$\lambda$的非增函数，其中$-\infty<\lambda<+\infty$。当且仅当$(f0^+)(y)\leq0$成立时，那么这个性质对每个$x$都满足。当$f$是闭时，那么如果存在一个$x\in\text{dom}\ f$该性质满足，那么对每个$x$，该性质都满足。

$\textbf{证明：}$根据定义，当且仅当$\textbf{epi}\ f$的回收锥包含向量$(y,0)$(这就意味着对于每个$z,\lambda\geq0$，不等式$f(z+\lambda y)\leq f(z)$ 成立) 时，$(f0^+)(y)\leq0$，所以当且仅当对每个$x$，$f(x+\lambda y)$是$\lambda$的非增函数时$(f0^+)(y)\leq0$，其中$-\infty<\lambda<+\infty$。如果$f$是闭的，那么根据定理8.5最后一个公式，如果存在一个$x\in\text{dom}\ f$使得$f(x+\lambda y)$是$\lambda$的非增函数，那么可以得出$(f0^+)(y)\leq0$。现在假设$x$是使得

$$\lim_{\lambda\to+\infty}\inf f(x+\lambda y)<\alpha$$

的一点，其中$\alpha\in R$，令$h$是$R$上的正常凸函数，并定义为$h(\lambda)=f(x+\lambda y)$，$h$的上境图包含形如$(\lambda_k,\alpha),k=1,2,\ldots$的点序列，其中$\lambda_k\to+\infty$，这个序列的凸包是一条半线且方向是向量$(1,0)$所在的方向，这条半线包含在闭凸集$\text{epi}(\text{cl}\ h)$中，于是$(1,0)$属于$\text{epi}(\text{cl}\ h)$的回收锥，即$\text{cl}\ h$是$R$上的非增函数，$\text{cl}\ h$的有效定义域肯定是上面的无界区间，闭包运算顶多在有效定义域的边界会比$h$值小(定理7.4)，所以$h$本身一定是$R$上非增函数，由此可得$f(x+\lambda y)$是$\lambda$的非增函数。$||$

$\textbf{推论8.6.1}$ 令$f$是正常凸函数，$y$是一个向量，为了使$f(x+\lambda y)$对每个$x$而言都是$\lambda$的常函数，其中$-\infty<\lambda<\infty$，充分必要条件是$(f0^+)(y)\leq0$且$(f0^+)(-y)\leq0$。当$f$为闭时，如果存在一个$x$使得对某个实值$\alpha$，

$$f(x+\lambda y)\leq\alpha,\quad\forall\lambda\in R$$

成立，那么该条件依然满足。

$\textbf{推论8.6.2}$ 凸函数$f$是任意仿射集$M$上恒定的

$\textbf{证明：}$如果需要的话可以将$M$外的$f$重新定义为$+\infty$，我们可以假设$M=\text{dom}\ f$，那么$f$是闭的(推论7.4.2)。根据前面的推论，沿着$M$中的每条线$f$都是不变的。因为$M$包含通过任意两点的直线，所以$f$在$M$ 的所有点上值都一样。$||$

所有使得$(f0^+)(y)\leq0$的向量$y$组成的集合称为$f$的回收锥(注意，不要跟$\text{epi}\ f$的回收锥混淆了)，这是包含0的凸锥，如果$f$为闭那么它也为闭。(它对应于$0^+(\text{epi}\ f)$与$R^n$中水平超平面$\{(y,0)|y\in R^n\}$的交)正如定理8.6所说的那样，$f$回收锥中向量的方向称为$f$回退的方向或者$f$回收方向。

使得$(f0^+)(y)\leq0,(f0^+)(-y)\leq0$的向量$y$组成的集合是含在$f$回收锥中的最大子空间(定理2.7)，从推论8.6.1 的角度看，我们可以称其为$f$的恒定空间(constancy space)，$f$恒定空间中向量的方向称为$f$不变的方向。

定理8.6前面的实例中，$f_1$回收锥与恒定空间都等于$\{y|Qy=0\}$，而$f_2$ 回收锥与恒定空间分别是

$$\{y|Qy=0,\langle a,y\rangle\leq0\},\quad\{y|Qy=0,\langle a,y\rangle=0\}$$

$f_3$回收锥是$R^n$的非正象限，但是恒定空间只有零向量组成。

$\textbf{定理8.7}$ 令$f$是闭正常凸函数，那么所有形如$\{x|f(x)\leq\alpha\},\alpha\in R$的非空水平集有相同的回收锥与相同的线性空间，也就是$f$的回收锥和恒定空间。

$\textbf{证明：}$根据定理8.6：无论何时$f(x)\leq\alpha,\lambda\geq0$，当且仅当$f(x+\lambda y)\leq\alpha$时，$y$属于$\{x|f(x)\leq\alpha\}$的回收锥。$||$

$\textbf{推论8.7.1}$ 令$f$是闭正常凸函数，如果$\{x|f(x)\leq\alpha\}$对一个$\alpha$来说是非空且有界的，那么对每个$\alpha$，它都是有界的。

$\textbf{证明：}$应用定理8.4。$||$

$\textbf{定理8.8}$ 对任意正常凸函数$f$，下面在向量$y$和实值$v$ 上的条件是等价的：

1. 对每个向量$x$与$\lambda\in R$，$f(x+\lambda y)=f(x)+\lambda v$；
   • $(y,v)$属于$\text{epi}\ f$的线性空间；
   • $-(f0^+)(-y)=(f0^+)(y)=v$。

   • 当$f$为闭时，如果存在$x\in\text{dom}\ f$使得$f(x+\lambda y)$是$\lambda$的仿射函数，那么$y$满足这些条件且$v=(f0^+)(y)$。

     $\textbf{证明：}$$(a)$成立，对每个$x\in\text{dom}\ f,f(x+y)-f(x)=v$，根据定理8.5的第一个公式可得$v=(f0^+)(y),-v=(f0^+)(-y)$，所以$(a)$暗含$(c)$。接下来考虑$(c)$，其表明$(y,v),(-y,-v)$都属于$\text{epi}(f0^+)$即$(y,v),-(y,v)$都属于$0^+(\text{epi}\ f)$，这和条件$(b)$是一致的。最后，$(b)$表明
     

     $$(\text{epi}\ f)-\lambda(y,v)=\text{epi}\ f,\quad\forall\lambda\in R$$

   对任意$\lambda$，左边的集合是$\text{epi}\ g$，其中$g$是定义如下的函数
   

   $$g(x)=f(x+\lambda y)-\lambda v$$

   所以$(a)$肯定满足，由此可知$(a),(b),(c)$是等价的。定理中最后的断言从定理8.5的最后那个公式可以得出来。$||$

   使得$(f0^+)(-y)=-(f0^+)(y)$的向量$y$组成的集合称为正常凸函数$f$的线性空间(lineality space)，它是$R^n$的子空间，凸集$\text{epi}\ f$在投影$(y,v)\to y$下线性空间的像并且在这个子空间上$f0^+$是线性的(定理4.8)，$f$线性空间中向量的方向称为该方向上$f$是仿射的，线性空间的维数是$f$的线性度，$f$的秩为$f$的维数减去$f$的线性度。

   秩为0的正常凸函数是部分仿射函数(partial affine function)，即沿着某个仿射集该函数与仿射函数是一致的，而其他地方为$+\infty$。对于闭正常凸函数$f$，当且仅当沿着$\text{dom}\ f$中任意直线它都不是仿射时，我们有
   

   $$\text{rank}\ f=\text{dom}\ f$$

   凸集的秩明显与指示函数的秩是一致的。