codedz的博客

KNN算法详解及实现k近邻法（k-nearest neighbor，k-NN）是一种基本的分类和回归方法，是监督学习方法里的一种常用方法。k近邻算法假设给定一个训练数据集，其中的实例类别已定。分类时，对新的实例，根据其k个最近邻的训练实例类别，通过多数表决等方式进行预测。k近邻算法用一句通俗的古语来说就是：“物以类聚，人以群分”。你要看一个实例的类别，你就可以看它附近是什么类别。如下图1.1所示，当要判断绿色实例的类别的时候，我们可以看看它的附近有哪些类，然后采取多数表决的决策规则（红色2个多于蓝色1个

线性回归本示例仅使用糖尿病数据集的一个特征，以此来阐述二维图中的线性回归。 可以在图中看到预测的回归直线，显示了线性回归如何尝试绘制一条直线，该直线将最大程度地减少数据集中观察到的响应与通过线性近似预测的响应之间的残差平方和。不仅如此，本例还计算了系数，残差平方和和决定系数。数据集介绍本次案例采用sklearn中的diabetes数据集， diabetes是一个关于糖尿病的数据集，包括442个病人的生理数据及一年后的病情发展状况。diabetes数据集中包含442个样本，每个样本包含10个特征，分别