
漫步凸分析
会敲键盘的猩猩
研究方向为机器学习,尤其是统计学习,数学业余爱好者。
展开
-
漫步凸分析三——凸集代数
有许多种代数运算可以保留凸性。例如,如果CC是RnR^n中的凸集,那么所有平移操作C+aC+a和标量乘法λC\lambda C同样是凸集,其中 λC={λx|x∈C}\lambda C=\{\lambda x|x\in C\}从几何上看,如果λ>0\lambda>0,那么λC\lambda C就是CC伸缩λ\lambda倍得到的图像。过原点CC的对称反射是−C=(−1)C-C=(-1)C,对于翻译 2016-11-30 22:04:44 · 3246 阅读 · 1 评论 -
漫步凸分析二——凸集和锥
对于RnR^n中的子集CC,当x∈C,y∈C,0<λ<1x\in C,y\in C,0<\lambda<1 时,(1−λ)x+λy∈C(1-\lambda)x+\lambda y\in C,那么我们说集合CC是凸的。所以仿射集(包括∅\emptyset和RnR^n本身)是凸的,之所以凸集比仿射集更普遍是因为对于不同的点x,yx,y,凸集只包含通过x,yx,y直线的一部分,也就是 {(1−λ)x+λ翻译 2016-11-29 19:17:46 · 9145 阅读 · 2 评论 -
漫步凸分析一——仿射集
§1 \S1\ 仿射集本文中,用RR表示实数,RnR^n表示实nn元x=(ξ1,…,ξn)x=(\xi_1,\ldots,\xi_n)的向量空间,除非特别指明,否则都是在RnR^n中讨论。在RnR^n中两个向量x,x∗x,x^*的内积表示成 ⟨x,x∗⟩=ξ1ξ∗1+⋯+ξnξ∗n\langle x,x^*\rangle=\xi_1\xi_1^*+\cdots+\xi_n\xi_n^*符号AA翻译 2016-11-25 17:28:28 · 7173 阅读 · 9 评论 -
漫步凸分析六——凸集的相对内点
根据定义,RnR^n中点x,yx,y之间的欧几里得距离是 d(x,y)=|x−y|=⟨x−y,x−y⟩1/2d(x,y)=|x-y|=\langle x-y,x-y\rangle^{1/2}函数dd(欧几里得度量)是R2nR^{2n}上的凸函数,(这个结论基于的事实是:将欧几里得范数f(z)=|z|f(z)=|z|和从R2nR^{2n}到RnR^n的线性变换(x,y)→x−y(x,y)\to翻译 2016-12-03 22:57:13 · 13792 阅读 · 2 评论 -
漫步凸分析五——函数运算
对于已知的凸函数,我们如何对他们进行使得产生的函数依然是凸的呢?目前已经证明了许多运算是保留凸性的,某些运算与平常分析中的运算是类似的,像函数的逐点加法,还有一些运算出自几何动机,像取函数集的凸包。通常来说许多构造函数可以表示成有约束的下确界,这启发我们可以用极值理论进行讨论。特别地,当我们遇到一个形式复杂的函数,而需要去证明它是凸函数时,下面的定理是非常有用的。定理5.1 令ff是从RnR^n到(翻译 2016-12-02 21:53:30 · 2683 阅读 · 0 评论 -
漫步凸分析四——凸函数
令函数ff的值域是实数或±∞\pm\infty,定义域是RnR^n的一个子集,集合 {(x,μ)|x∈S,μ∈R,μ≥f(x)}\{(x,\mu)|x\in S,\mu\in R,\mu\geq f(x)\}叫做ff的上境图(epigraph),用epiff表示,如果epiff是Rn+1R^{n+1}的凸子集,那么我们将ff定义为凸函数。对于SS 上的函数,如果其负为凸,那么该函数为凹。SS上翻译 2016-12-01 21:44:44 · 6001 阅读 · 2 评论 -
漫步凸分析七——凸函数闭包
线性函数的凸性是代数性质(线性)的结果,而对于凸函数,事情就没那么简单了,但是凸函数本身依然有许多拓扑性质,通过将凸集的闭包和相对内点理论应用到凸函数的上境图或水平集上可以推出这些结论。有一个基本的结论就是下半连续是凸函数建设性的属性,也就是说有一个闭包运算,通过将任意正常凸函数重新定义在其有效定义域的某些相对内点上,就能令该函数变成下半连续的,我们会在下面给予证明。对于集合S⊂RnS\subset翻译 2016-12-04 21:10:08 · 7992 阅读 · 1 评论 -
漫步凸分析八——回收锥与无界
RnR^n中的有界闭子集通常比无界的更容易处理,然而,当集合为凸时,无界的困难度就下降很多,这实在是一大幸事,因为我们考虑的许多集合像上境图从他们的性质可知是无界的。根据我们的直观理解,无界闭凸集在无穷远处行为比较简单,假设CC是这样的一个集合并且xx是CC中的一点,那么似乎CC必须包含以xx为起点的某个整条半线,否则的话这就与无界相矛盾。这条半线的方向似乎不依赖于xx:CC中从另一个以yy为起点的翻译 2016-12-06 22:30:15 · 2641 阅读 · 2 评论 -
漫步凸分析十一——分离定理
令C1,C2C_1,C_2是RnR^n中的非空集合,有一个超平面HH,如果C1C_1含于其中的一个闭半空间而C2C_2含于相对立的闭半空间,那么我们称HH分离(separate)C1,C2C_1,C_2;如果C1,C2C_1,C_2 都不含于HH,那么我们成HH真(properly)分离C1,C2C_1,C_2;如果存在ε>0\varepsilon>0使得C1+εBC_1+\varepsilon B翻译 2016-12-12 20:19:38 · 4279 阅读 · 1 评论