本文深入探讨了k-NN算法，强调了其假设前提是相似的输入有相似的输出。介绍了k-NN的正式定义，指出k值的选择对分类器的影响，特别是在k=n和k=1的情况。讨论了距离度量的重要性，特别是闵可夫斯基距离在分类中的作用。文章还证明了1-NN在n趋近无穷时的收敛性，并提及k-NN在高维数据上的效率问题。最后，提到了k-NN在数据量少或特征不易提取场景的应用，并给出一个使用OpenCV进行手写识别的例子。
一、概述
所有的机器学习算法都是有假设前提的。k-NN算法的假设前提是相似的输入有相似的输出。其分类规则是对于测试输入x，在其k个最相似的训练输入中分配最常见的标签。
k-NN 的正式定义：
对于一个待测试数据。
将的
个最近邻的集合表示为
。
的正式定义为
，
订阅专栏 解锁全文
扫一扫
评论
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
