wcysghww的博客

发现了一个很不错的机器学习网站哦http://www.julyedu.com/这学期准备找实习了，所以想巩固一下自己的理论基础。用博客的方式记录下来，方便以后查阅复习。1生成模型generative model和判别模型 discriminative model已知输入变量x，生成模型通过对观测值和标注数据计算联合概率分布P(x,y)来达到判定估算y的目的。判别模型通过求解条件概率分布P(y|x)...

K近邻算法的基本思想 K近邻算法是一种常用的监督学习方法，其原理非常简单：给定测试样本，基于某种距离找出训练集中与其最靠近的K个训练样本，然后基于这K个邻居的信息来进行预测。两个基本要素：1某种距离的概念 2 彼此相近的点具有相似性质的假设 k近邻算法所面临的维数灾难问题 但是随着特征维数的增大，K近邻算法的效果会持续变差，这是因为高维空间过于巨大，高维空间内的点根本不会...