sklearn机器学习：K-Means之提前停止迭代

最新推荐文章于 2022-09-12 22:03:42 发布
原创 最新推荐文章于 2022-09-12 22:03:42 发布 · 3.2k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #算法 #python #KMeans #迭代次数

K-Means算法可以通过max_iter设置最大迭代次数或tol设定Inertia下降阈值提前终止。当质心变化小于tol或达到max_iter时，算法停止。在某些情况下，提前停止能提升模型性能，尤其是在n_clusters选择与数据分布不符时。

重要参数max_iter & tol：让迭代停下来

之前描述K-Means的基本流程时我们提到过，当质心不再移动，K-Means算法就会停下来。但在完全收敛之前，我们也可以使用max_iter，最大迭代次数，或者tol，两次迭代间Inertia下降的量，这两个参数来让迭代提前停下来。有时候，当我们的n_clusters选择不符合数据的自然分布，或者为了业务需求，必须要填入与数据的自然分布不合的n_clusters，提前让迭代停下来反而能够提升模型的表现。
max_iter：
整数，默认300
单次运行K-Means允许的最大迭代次数
tol:
浮点数，默认1e-4
两次迭代间Inertia下降的量，如果两次迭代之间Inertia下降的值小于tol所设定的值，迭代就会停下
再次使用我们在博文《sklearn机器学习:K-Means》中建立的各向同性高斯团簇的数据点集：

random = KMeans(n_clusters=4,init='random',max_iter=1
最低0.47元/天 解锁文章
sklearn学习05——K-means
qq_42929168的博客
12-27 1312
sklearn学习05——K-means前言一、K-means算法思想二、代码实现 K-means算法2.1、引入相关库2.2、生成数据集2.3、训练 + 预测2.3、惯性指标（inertia）总结 前言 面对无标签的数据集，我们期望从数据中找出一定的规律。一种最简单也最快速的聚类算法应运而生——K-Means。因为数据集无标签，所以它是无监督学习，下面介绍K-means算法思想，然后再调用sklearn相关库代码实现一下。 一、K-means算法思想 其核心思想比较简单，四个字概括的话就是：物以类
K_means算法 python实现
weixin_56776282的博客
06-23 234
使用xlrd和numpy三方库完成K_means算法。将K_means算法集成到一个类中，用一个函数来统一管理和运行，方便以后调用
为什么提前终止训练相当于正则化+稀疏表示+集成方法+感知机学习算法
Carr_001的博客
07-01 774
1.为什么提前终止训练相当于正则化 左边是提前终止的效果，右边是正则化的效果 可见，只要适当选择停止时的w~,就可以得到类似正则化的效果 从数学角度怎么分析呢？ 与分析L2正则化时类似，我们把J的最小值w*附近近似为二次函数 这样可以得到第τ次迭代和第τ-1次迭代的递推表达式 特征值分解 假设 那么可得 而L2正则化 对比可看出，当 时，正则化和提前终止训练时等价的。 两边取对数，...
【机器学习】scikitLearn正则化l1,l2,提前停止
种一棵树最好的时间是十年前，其次是现在
09-12 608
*λ的增加会导致更平坦（即不极端，更合理）的预测，从而减少了模型的方差，但增加了其偏差。正则项是岭和Lasso正则项的简单混合，你可以控制混合比r。当r=0时，弹性网络等效于岭回归，而当r=1时，弹性网络等效于Lasso回归。对于梯度下降这一类迭代学习的算法，还有一个与众不同的正则化方法，就是在验证误差达到最小值时停止训练，该方法叫作提前停止法。将线性摸中系数的平方项添加至成本函数，如均方误差，这迫使学习算法不仅拟合数据，而且还使模型权重尽可能小。注意，Lasso回归的λ要更小一些，以匹配更小的参数。
K-means算法的参数详解
123
11-24 3728
参数名称 默认值及输入类型 参数解释 algorithm 默认：Auto 有auto、full和elkan三种选择。 algorithm: 优化算法的选择，有auto、full和elkan三种选择。 full就是一般意义上的K-Means算法， elkan是使用的elkan K-Means算法。 auto则会根据数据值是否是稀疏的(稀疏一般指是有大量缺失值)，来...
K-MEANS-算法-简述
weixin_30251587的博客
08-23 254
1.算法流程 输入：聚类个数k，以及包含 n个数据对象的数据库。 输出：满足方差最小标准的k个聚类。　（1）从n个数据对象任意选择k个对象作为初始聚类中心 （2）计算每个对象与聚类中心的距离；并根据最小距离重新对相应对象进行划分 （3）重新计算每个聚类的均值作为新的聚类中心 （4）循环（2）到（3）直到每个聚类不再发生变化为止 2. 算法分析 K-Means...
k-means聚类算法原理及python3实现
hanxia159357的博客
08-09 8万+
  本文完成程序及测试数据集详细见：https://github.com/HanXia001/k-means-python3- 本文主要内容：                 1.k-means解决的问题；                 2.k-means原理介绍；                 3.k-means的简单实现。 1.k-means解决的问题          k-...
Matlab中进行迭代与结束迭代的两种写法
galaxy9064的专栏
05-23 2万+
在Matlab中，可以通过while语句来进行迭代控制，我总结了两种写法，各有特色，现一一列出。首先给出一个场景：通过迭代不断地产生随机数a,b,c，当a+b+c>10或迭代进行到第5次后停止迭代。1.loop=1; while d<=10&loop<=5 a=rand; b=rand; c=rand; d=a+b+c; loop=loop+1; end这种方法
python的迭代_在Python中停止迭代
weixin_33900916的博客
02-04 1140
我对编码相对比较陌生，当我在某个网页上时，我使得此程序重复鼠标笔画，以便可以自动执行此过程。在Python中停止迭代import pyautogui, timeinp = raw_input("Number input?")iterations = raw_input("Iterations?")def move(x, y):pyautogui.moveTo(x, y)for i in range...
处理StopIteration停止迭代异常
小清华的小哥哥
12-31 5903
Python中迭代器循环遍历完最后一个数据，再用next()方法取值，会抛出异常StopIteration(停止迭代) 解决办法：抓住异常 示例代码： ```python try: # 你的代码段 except StopIteration as s: print('StopIteration')
梯度下降法迭代结束的条件
hyg的优快云博客
01-09 1万+
梯度的方向总是函数值越来越大的方向，如果是求极大值，沿着梯度的方向迭代接口；如果是求极小值，沿着梯度相反的方向迭代即可，即梯度下降法。 梯度下降法（梯度上升法应该也适用）迭代结束的条件，常用的有两种： 一、定义一个合理的阈值，当两次迭代之间的差值小于该阈值时，迭代结束。 二、设置一个大概的迭代步数，比如1000或500，梯度下降法最终的迭代肯定会收敛，只要达到相应迭代次数，多了也没关系。因为
用scikit-learn学习K-Means聚类
weixin_34245169的博客
12-13 526
　　　　在K-Means聚类算法原理中，我们对K-Means的原理做了总结，本文我们就来讨论用scikit-learn来学习K-Means聚类。重点讲述如何选择合适的k值。 1. K-Means类概述 　　　　在scikit-learn中，包括两个K-Means的算法，一个是传统的K-Means算法，对应的类是KMeans。另一个是基于采样的Mini Batch K-Means算法，对应的类是Mi...
聚类算法K-Means
weixin_43073590的博客
04-11 1065
1.无监督学习与聚类算法 无监督算法在训练的时候只需要特征矩阵X，不需要标签，算法通过特征的相似度对样本进行分组。 我们学过的PCA降维算法就是无监督学习的一种，聚类算法也是无监督学习的代表算法之一。 2.KMeans KMeans是最简单的聚类算法，没有之一。 KMeans是如何工作的 （1）KMeans的核心任务 根据我们设定好的K，找出K个最优的质心，并将离这些质心最近的数据分别分配到这些质...
梯度下降算法中的几点答疑：迭代到什么时候停止？为什么要求导？几个式子之间是什么关系？j是干什么的？
m0_46371988的博客
03-10 2565
一、准备知识记录 梯度的方向是函数在给定点上升最快的方向，那么梯度的反方向就是函数在给定点下降最快的方向， α：学习率或者步长，意味着我们可以通过α来控制每一步走的距离，以保证不要步子跨的太大，哈哈，其实就是不要走太快，错过了最低点。同时也要保证不要走的太慢，导浪费跑程序的人的时间。所以α的选择在梯度下降法中往往是很重要的！ 总之：α不能太大也不能太小，太小的话，可能导致迟迟走不到最低点，太大的话，会导致错过最低点！ 3. 梯度前加一个负号，就意味着朝着梯度相反的方向前进 二、求偏导求的是啥..
k-means算法详解
zhihua_oba的博客
06-28 3万+
k-means算法详解 主要内容 k-means算法简介 k-means算法详解 k-means算法优缺点分析 k-means算法改进算法k-means++ 1、k-means算法简介   k-means算法是一种聚类算法，所谓聚类，即根据相似性原则，将具有较高相似度的数据对象划分至同一类簇，将具有较高相异度的数据对象划分至不同类簇。聚类与分类最大的区别在于，聚类过程为无监督过程，...
K-Means聚类算法的4个步骤流程！
dashenghuahua的博客
11-14 7万+
聚类分析是我们数据挖掘中常用的算法，常常用于没有分类，但又有相关相似性的样本研究当中，包括了K-Means、K-中心点和系统聚类三种算法，各自有各自的特点和适用环境。今天我们大圣众包根据网络资源详细介绍下K-Means聚类算法。 　　首先，先看看K-Means聚类算法是什么？一般来说，K-Means算法是典型的基于距离的非层次聚类算法，在最小化误差函数的基础上将数据划分为预定的类数K，采用距
机器学习（九）：k-means与聚类
芙兰泣露的博客
10-30 1376
k均值是基于划分的聚类技术，其特征为聚类的结果趋向于类球形，而k值就是需要发现的k个类，一般由使用者指定。k-meansk均值通常用于n维连续空间（数值类型）中的数据，其算法思想比较简单： 选择k个初始质心，然后将样本中的每个点指派到最近的质心，指派的方法一般是计算距离，以每个质心和所属他的点为一个簇，重新计算出该簇的质心，重复下去，直到簇不变（也可以是质心不变） 该算法思想有两大需要解决的问题
基本Kmeans算法介绍及其实现
热门推荐
Liam Q的专栏
11-30 27万+
1.基本Kmeans算法[1] 选择K个点作为初始质心 repeat 将每个点指派到最近的质心，形成K个簇 重新计算每个簇的质心 until 簇不发生变化或达到最大迭代次数时间复杂度：O(tKmn)，其中，t为迭代次数，K为簇的数目，m为记录数，n为维数 空间复杂度：O((m+K)n)，其中，K为簇的数目，m为记录数，n为维数 2.注意问题 （1）K如何确定
聚类算法k-means（无监督学习）笔记
WHYbeHERE的博客
07-22 2836
介绍了聚类算法k-means的实例过程及参数调优笔记。 1部分为k-means的建模流程：先构造包含5个中心点的随机训练集数据，并画图展现样本分布情况，最后导入新数据测试； 2部分介绍了几个常用参数和调优流程； 3、4部分别为评估方法和算法存在的问题。
数据挖掘与机器学习算法概览：K-Means聚类分析
文档中还提到了其他机器学习算法，如KNN（k最近邻）、决策树、朴素贝叶斯、逻辑回归、SVM、集成学习、模型评估、数据预处理、二叉树、排序方法、SQL查询和数据挖掘案例分析。这些内容构成了一套全面的数据挖掘和机器...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值