机器学习第一周打卡:knn算法学习

本文深入解析KNN算法的原理及应用,包括距离度量、K值选择与分类决策规则。阐述了算法流程,如距离计算、排序、K值确定及分类结果预测。同时讨论了算法优缺点,如简单直观但可能受数据分布影响,并提出高维数据降维的解决方案。

用途:用来做分类或者做逻辑回归用
模型是由三个核心元素构成:
1、距离度量
2、K值
3、分类决策规则

整体算法流程:
1、计算测试集到训练集的各个数据点的距离,这里就可以用很多距离进行考核
2、对距离进行排序
3、选择K值,这个K值,是指距离测试集最近的训练集要选多少个
4、看选择K值后的几个训练值频次是怎么样的,然后把测试集的结果=频次最高的那个结果就完事儿了

其实挺简单,可以理解为:找距离我最近的几个样本,他们中大部分的样子就是我的样子
在这里插入图片描述
回答上面问题哈:
1、优点:简单已理解,可以给业务迅速讲清楚
缺点:如果测试集数据在训练集范围外部,就不好进行预测
2、在这里插入图片描述
可能存在距离相等,但是位置对称的情况,这样就选错范围了
3、如何选取K值
多测几遍,看预测值与真实值的误差,最终选取最小误差情况下的k值
4、时间复杂度o(n),高维数据进行降维。

根据原作 https://pan.quark.cn/s/0ed355622f0f 的源码改编 野火IM解决方案 野火IM是专业级即时通讯和实时音视频整体解决方案,由北京野火无限网络科技有限公司维护和支持。 主要特性有:私有部署安全可靠,性能强大,功能齐全,全平台支持,开源率高,部署运维简单,二次开发友好,方便与第三方系统对接或者嵌入现有系统中。 详细情况请参考在线文档。 主要包括一下项目: 野火IM Vue Electron Demo,演示如何将野火IM的能力集成到Vue Electron项目。 前置说明 本项目所使用的是需要付费的,价格请参考费用详情 支持试用,具体请看试用说明 本项目默认只能连接到官方服务,购买或申请试用之后,替换,即可连到自行部署的服务 分支说明 :基于开发,是未来的开发重心 :基于开发,进入维护模式,不再开发新功能,鉴于已经终止支持且不再维护,建议客户升级到版本 环境依赖 mac系统 最新版本的Xcode nodejs v18.19.0 npm v10.2.3 python 2.7.x git npm install -g node-gyp@8.3.0 windows系统 nodejs v18.19.0 python 2.7.x git npm 6.14.15 npm install --global --vs2019 --production windows-build-tools 本步安装windows开发环境的安装内容较多,如果网络情况不好可能需要等较长时间,选择早上网络较好时安装是个好的选择 或参考手动安装 windows-build-tools进行安装 npm install -g node-gyp@8.3.0 linux系统 nodej...
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值