数据挖掘day10-CS229-Convex Optimization Overview

斯坦福课程CS229的补充材料Convex Optimization Overview。我感觉从今天起，学习笔记会变成我的单词本(⊙﹏⊙)b，不知如此，很多相关概念、符号，大学期间也是没有学过的，这篇笔记都会记录。
首先当然是找到中文材料，补充理解 CS229项目翻译，知乎上的读书笔记
（未完待填坑）

欧几里德空间，向量空间，范数，赋范向量空间，凸集，仿射变换，海森矩阵

2、凸集

2.1、直接给出凸集的定义

其实应该先了解仿射，如果通过集合$C\in {\mathbb{R}}^n$中任意两个不同点的直线仍然在集合$C$ 中，那么集合是仿射的。常见的仿射集合，比如说一条直线。在直线上任意取两点，通过这两点的直线还是在这条直线上。又比如说一个平面，在平面上任意找两个点，通过这两个点所确定的直线，仍然在这个平面上。

那么上面的式子，写成 $y=\theta x_1+(1-\theta )x_2$ ,或者 $y=\theta (x_1-x_2)+x_2$
$x_1,x_2$是点，在几何上也可以看做向量，那么$y$就是经过他们的直线，$1\le \theta \le 1$时，即是过两点的线段（向量）。直观的图像。

凸集的例子：1、实数向量 ；2、非负象限；3、范数球；4、仿射子空间；5、多面体；6、凸集的交集；7、半正定矩阵

3、凸函数

直观的描述，函数上的两点连线，那么这两点之间的部分都在这条直线下面。

3.1、凸性的一阶条件

简单的说，函数上的点的所有切线，都在图像之下。

3.2、凸性的二阶条件

简单的说，二阶导数非负。

$\mathbb{R}$ $S^{\circ }$ $A\subseteq B$ $A\subset B$ $A\in B$