u013527834的博客

高斯过程分类对于分类问题，高斯过程就不那么简单。前面我们是可以得出似然函数，先验分布均为高斯得出后验也是高斯分布。这种在解析计算上有良好的驯良性。对于分类问题输出值y不是连续的而是离散的，自然p(y|D)不能用高斯分布，比如二分类问题y=0,1就服从伯努利分布。（这里是否可以考虑中间输出y’的先验分布为两个高斯分布的叠加，一个均值为1一个为0，类似于核密度估计然后再用sigmod函数映射为离散值...

overview for gauss process for machine learningthe doc and matlab tool see in:http://www.gaussianprocess.org/gpml/prml：chapter relevent with GPa flexible and efficient gauss processbayes optimiz...

introduction监督学习一般有两种处理，一种是根据经验特点严格限制为莫一种模型和函数，比如用线性回归模型处理；另外一种就是更宽泛：给每一种函数模型一个先验概率，概率越大意味着越容易被我们采纳，意味它具有某种更好的性质，比如更为光滑（可以参考核密度估计的由来）。后者麻烦在函数模型是个无限集，如何处理？我们便推出一种【高斯过程】：是高斯分布的广义泛化。【随机过程】宽泛的解释是把函数值视为一个...

矩阵向量范数我们说行列式是对矩阵变换的整体一个度量，比如他等于特征值的乘积（特征空间的体积）等等性质都能表明他确实是一个度量。我们还需要其他的度量诸如矩阵非方阵时，这种整体“大小”的度量有利于描述扰动的大小和灵敏度的分析参见《数值分析》。也有利于在优化和机器学习中起到正则化约束的作用，可以看作是矩阵或者向量距离的测度，这就是【范数】用记号||.||表示范数。向量范数自然，我们会想到怎样定义...