u_say2what的博客

MCMC蒙特卡洛马尔科夫链采样，非常重要的采样算法，而Gibbs算法也是MCMC种的一种，主要用于高维分布的采样。介绍MCMC的书籍有很多，https://victorfang.wordpress.com/2014/04/29/mcmc-the-gibbs-sampler-simple-example-w-matlab-code/这是有关Gibbs采样matlab的一个实现，里面也介绍了gibbs...

在prml这本书的第六章kernel methods提到了一种非参数回归的方法Kernel regression，这种模型是基于（特征x之间）特征越相似的则其所对应的y值也应该很相似，只不过他引进了kernel函数来衡量特征之间的相似度。下面是python代码实现：import matplotlib.pyplot as pltimport numpy as npfrom scipy....

主成分分析（PCA）是一种比较经典的降维方法，它的思想主要是将数据映射到低维空间时使得数据在低维空间的方差最大。算法如下：python代码如下，我主要使用了两种方法特征值分解和奇异值分解。import numpy as npimport matplotlib.pyplot as pltfrom sklearn.utils.extmath import svd_flipcl...

多维尺度缩放（MDS）是一种比较经典的降维方法，它利用在低维度空间维持高维度空间的距离矩阵来学习数据在低维度空间的表示。算法如下：以上算法来自西瓜书的截图。python代码如下：#Multiple Dimensional Scaling,MDS,多维尺度缩放#数据是按照行来排列的#尽量让样本数目大于数据的维度import numpy as npimport matplo...