笔记

版权声明：     本文由LeftNotEasy发布于http://leftnoteasy.cnblogs.com, 本文可以被全部的转载或者部分使用，但请注明出处，如果有问题，请联系wheeleast@gmail.com 前言：     上一次写了关于PCA与LDA的文章，PCA的实现一般有两种，一种是用特征值分解去实现的，一种是用奇异值分解去实现的。在上篇文章中便是基于特征值

数学中最优化问题的一般表述是求取，使，其中是n维向量，是的可行域，是上的实值函数。 凸优化问题是指是闭合的凸集且是上的凸函数的最优化问题，这两个条件任一不满足则该问题即为非凸的最优化问题。 其中，是 凸集是指对集合中的任意两点，有，即任意两点的连线段都在集合内，直观上就是集合不会像下图那样有“凹下去”的部分。至于闭合的凸集，则涉及到闭集的定义，而闭集的定义又基于开集，比较抽象，不赘述，这里

下载链接：斯坦福机器学习笔记 这一系列笔记整理于2013年11月至2014年7月。所有内容均是个人理解，做笔记的原因是为了以后回顾相应方法时能快速记起，理解错误在所难免，不合适的地方敬请指正。 笔记按照斯坦福机器学习公开课的notes整理，其中online学习部分没有整理，reinforcement learning还没接触，有时间补上。 这份笔记主要记录自己学习过程中理解上的难点，所以对于