用KNN做手写数字识别(mnist)

一. KNN的原理

KNN的主要思想是找到与待测样本最接近的k个样本，然后把这k个样本出现次数最多的类别作为待测样本的类别。

二. 数据源

mnist数据集，包含42000张28*28的图片，可以从网盘下载http://pan.baidu.com/s/1kVi1nc7，下载完解压后如下图所示：

三. 处理方法

1. 把图片读取到一个28*28的矩阵里，然后对图片进行一个简单的二值化，这里选择127为一个界限，大于127的像素点为1，小于等于127的像素点为0，二值化之后的手写数字如下图所示：

2. 把28*28的矩阵直接转成一个784维的向量，直接去欧氏距离作为度量进行KNN算法，代码如下：

import os
import Image
import numpy as np

def binaryzation(data):
	row = data.shape[1]
	col = data.shape[2]
	ret = np.empty(ro