绘制学习曲线——plot_learning_curve

电子工程师必看:2024年IPC-A-610J和J-STD-001J新标准到底更新了啥? 本文深入解析2024年IPC-A-610J和J-STD-001J新标准的核心更新,重点关注电子制造领域的验收标准与工艺参数变化。新版标准强化了高密度组装和微焊接工艺的规范,包括焊料润湿角调整、BGA空洞率严格化等关键变更,为电子工程师提供实用指南。同时关联IPC-7711/21D和IPC-2221C的配套更新,助力企业快速适应新标准要求。 阅读详情
                                            <div class="article-copyright">
            <span class="creativecommons">
            <a rel="license" href="http://creativecommons.org/licenses/by-sa/4.0/">
                </a>
        <span>
            版权声明:本文为博主原创文章,遵循<a href="http://creativecommons.org/licenses/by-sa/4.0/" target="_blank" rel="noopener"> CC 4.0 BY-SA </a>版权协议,转载请附上原文出处链接和本声明。            </span>
           <div class="article-source-link2222">
                本文链接:<a href="https://blog.youkuaiyun.com/qq_36523839/article/details/82556932">https://blog.youkuaiyun.com/qq_36523839/article/details/82556932</a>
            </div>
        </span>
                </div>
                                                <link rel="stylesheet" href="https://csdnimg.cn/release/phoenix/template/css/ck_htmledit_views-3019150162.css">
                                    <link rel="stylesheet" href="https://csdnimg.cn/release/phoenix/template/css/ck_htmledit_views-3019150162.css">
            <div class="htmledit_views" id="content_views">
                                        <p><strong>学习曲线:</strong><span>一种用来判断训练模型的一种方法,通过观察绘制出来的学习曲线图,我们可以比较直观的了解到我们的模型处于一个什么样的状态,如:过拟合(overfitting)或欠拟合(underfitting)</span></p>

先来看看如何解析学习曲线图:

要看深刻了解上面的图形意义,你需要了解偏差(bias)、方差(variance)对于训练模型的意义,偏差指的是算法的期望预测与真实值之间的偏差程度,反映了模型本身的拟合能力;方差度量了同等大小的训练集的变动导致学习性能的变化,刻画了数据扰动所导致的影响。可以参考这里,当你了解后,我们来看看上面的图形代表的意义:(横坐标表示训练样本的数量,纵坐标表示准确率)

    1:观察左上图,训练集准确率与验证集准确率收敛,但是两者收敛后的准确率远小于我们的期望准确率(上面那条红线),所以由图可得该模型属于欠拟合(underfitting)问题。由于欠拟合,所以我们需要增加模型的复杂度,比如,增加特征、增加树的深度、减小正则项等等,此时再增加数据量是不起作用的。

    2:观察右上图,训练集准确率高于期望值,验证集则低于期望值,两者之间有很大的间距,误差很大,对于新的数据集模型适应性较差,所以由图可得该模型属于过拟合(overfitting)问题。由于过拟合,所以我们降低模型的复杂度,比如减小树的深度、增大分裂节点样本数、增大样本数、减少特征数等等。

    3:一个比较理想的学习曲线图应当是:低偏差、低方差,即收敛且误差小。

在深刻了解到了学习曲线图的意义后,可以着手挥着该图了。

如何绘制学习曲线:

以下为sklearn官方文档的解释,这里仅做必要的解释:

通过使用sklearn提供的绘制模板,我们也可以根据数据的情况来改变绘制的条件。官方提供的两个样例分别是GaussianNB、SVC两个模型对于load_digits数据集进行拟合后绘制的学习曲线图。

附上完整代码,下面再对相关步骤做说明:


 
  1. import numpy as np
  2. import matplotlib.pyplot as plt
  3. from sklearn.naive_bayes import GaussianNB
  4. from sklearn.svm import SVC
  5. from sklearn.datasets import load_digits
  6. from sklearn.model_selection import learning_curve
  7. from sklearn.model_selection import ShuffleSplit
  8. def plot_learning_curve(estimator, title, X, y, ylim=None, cv=None,
  9. n_jobs=1, train_sizes=np.linspace(.1, 1.0, 5)):
  10. plt.figure()
  11. plt.title(title)
  12. if ylim is not None:
  13. plt.ylim(*ylim)
  14. plt.xlabel( "Training examples")
  15. plt.ylabel( "Score")
  16. train_sizes, train_scores, test_scores = learning_curve(
  17. estimator, X, y, cv=cv, n_jobs=n_jobs, train_sizes=train_sizes)
  18. train_scores_mean = np.mean(train_scores, axis= 1)
  19. train_scores_std = np.std(train_scores, axis= 1)
  20. test_scores_mean = np.mean(test_scores, axis= 1)
  21. test_scores_std = np.std(test_scores, axis= 1)
  22. plt.grid()
  23. plt.fill_between(train_sizes, train_scores_mean - train_scores_std,
  24. train_scores_mean + train_scores_std, alpha= 0.1,
  25. color= "r")
  26. plt.fill_between(train_sizes, test_scores_mean - test_scores_std,
  27. test_scores_mean + test_scores_std, alpha= 0.1, color= "g")
  28. plt.plot(train_sizes, train_scores_mean, 'o-', color= "r",
  29. label= "Training score")
  30. plt.plot(train_sizes, test_scores_mean, 'o-', color= "g",
  31. label= "Cross-validation score")
  32. plt.legend(loc= "best")
  33. return plt
  34. digits = load_digits()
  35. X, y = digits.data, digits.target # 加载样例数据
  36. # 图一
  37. title = r"Learning Curves (Naive Bayes)"
  38. cv = ShuffleSplit(n_splits= 100, test_size= 0.2, random_state= 0)
  39. estimator = GaussianNB() #建模
  40. plot_learning_curve(estimator, title, X, y, ylim=( 0.7, 1.01), cv=cv, n_jobs= 1)
  41. # 图二
  42. title = r"Learning Curves (SVM, RBF kernel, $\gamma=0.001$)"
  43. cv = ShuffleSplit(n_splits= 10, test_size= 0.2, random_state= 0)
  44. estimator = SVC(gamma= 0.001) # 建模
  45. plot_learning_curve(estimator, title, X, y, ( 0.7, 1.01), cv=cv, n_jobs= 1)
  46. plt.show()

plot_learning_curve函数官方放提供的模板函数,可以无需修改,初学时我们仅需要知道传入的参数意义即可。

先说说函数里面的一个东西,也是画曲线的核心sklearn.model_selection的learning_curve,该学习曲线函数返回的是train_sizes,train_scores,test_scores:

    在画训练集的曲线时:横轴为 train_sizes,纵轴为 train_scores_mean;

    画测试集的曲线时:横轴为train_sizes,纵轴为test_scores_mean。

 

title:图像的名字。

cv:默认cv=None,如果需要传入则如下:

    cv : int, 交叉验证生成器或可迭代的可选项,确定交叉验证拆分策略。
         cv的可能输入是:
           - 无,使用默认的3倍交叉验证,
           - 整数,指定折叠数。
           - 要用作交叉验证生成器的对象。
           - 可迭代的yielding训练/测试分裂。

ShuffleSplit:我们这里设置cv,交叉验证使用ShuffleSplit方法,一共取得100组训练集与测试集,每次的测试集为20%,它返回的是每组训练集与测试集的下标索引,由此可以知道哪些是train,那些是test。

ylim:tuple, shape (ymin, ymax), 可选的。定义绘制的最小和最大y值,这里是(0.7,1.01)。

n_jobs : 整数,可选并行运行的作业数(默认值为1)。windows开多线程需要在"__name__"==__main__中运行。

 

好了,以上为查阅资料以及文档对于上面参数的解释,下面看看运行的结果:

如上图,左边(朴素贝叶斯分类器)收敛但准虽然确度为0.85左右,属于欠拟合;右边(rbf核的SVM)训练分数一直都在一个很高的地方,可能属于一个过拟合问题,这时可以通过更多的训练样本来验证这个分数。

 

参考文献:官方文档       学习曲线

参考文献:官方文档       交叉验证

【数学解析几何】几种常见的典型函数曲线图 ## 三次抛物线,半立方抛物线,概率曲线,箕舌线,蔓叶线,笛卡儿叶形线,星形线,摆线,心形线,阿基米德螺线,对数螺线,双曲螺线,伯努利双纽线,三叶玫瑰线,四叶玫瑰线。 阅读详情

相关推荐

from common.utils import plot_learning_curve ModuleNotFoundError: No module named 'common'

使用以下函数(函数来源官网): def plot_learning_curve(estimator, title, X, y, ylim=None, cv=None, n_jobs=1, train_sizes=np.linspace(.1, 1.0, 5)): plt.figure() plt.title(title) i...

棒棒糖的专栏 6208

第3章 plot_learning_curve(绘制学习曲线)

sklearn.model_selection.learning_curve sklearn.model_selection.learning_curve(estimator, X, y, groups=None, train_sizes=array([0.1, 0.33, 0.55, 0.78, 1. ]), cv=’warn’, scoring=No...

Klay Ye 1万+

机器学习学习曲线:原理、应用与sklearn实战

学习曲线是机器学习中重要的模型诊断工具,通过可视化模型在训练集和验证集上的性能变化,帮助开发者识别欠拟合或过拟合问题。其核心原理是评估模型在不同数据规模下的表现,利用sklearn的learning_curve函数可自动完成这一过程。在工程实践中,学习曲线常用于指导模型选择、参数调优和数据收集策略,特别是在随机森林等复杂模型的应用中效果显著。掌握学习曲线的正确使用方法,能够有效提升机器学习项目的开发效率,避免常见的高偏差和高方差问题。本文通过具体代码示例,展示如何利用学习曲线优化模型性能,并讨论其在大数据场

cuixie2370的博客 427

python不同曲线设置标签_绘制学习曲线[Scitkit Learn]如何设置X轴值/标签?

我试着用这个来画一个学习曲线。在我有一套固定的训练尺寸,我想看看。在所以在plot_learning_curve函数中我手动设置。培训规模为[10500、1000、2500、5000]。但是,x轴没有更新,无法在x轴上显示这些特定值。在def plot_learning_curve(estimator, title, X, y, ylim=None, cv=None,n_jobs=1):train...

weixin_33751197的博客 339

学习曲线诊断指南:从过拟合、欠拟合到训练不稳定

学习曲线是机器学习模型训练过程中的核心诊断工具,本质是训练误差与验证误差随迭代次数变化的可视化表达。其原理基于模型在已知数据上的拟合能力与未知数据上的泛化能力之间的动态平衡。通过分析曲线形态,可快速识别过拟合(训练loss远低于验证loss)、欠拟合(双线高位平行)及训练不稳定(验证loss剧烈震荡)等典型问题,显著降低调参试错成本。在工业落地场景中,它不仅是模型健康度的‘心电图’,更是数据质量、分布偏移乃至系统异常的早期预警器。本文聚焦于PyTorch实战下的学习曲线绘制、解读与高阶应用,覆盖从基础形态识

494

Deep Learning中常见图、线的绘制 -- ROC、PR、箱线图、折线图、损失变化图

font1 = {plt.show()二、折线图plt.show()三、箱型图plt.plot()plt.show()四、损失变化图绘制损失变化图需要使用Visdom,相关visdom库得内容可以参考Visdom。导入Visdom及相关工具包自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。深知大多数Java工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。

2401_84046545的博客 1158

创建学习曲线函数——plot_learning_curve

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。 ...

qq_39954916的博客 2513

学习曲线:绘制、详解及 Python 实践

如果训练误差和验证误差都很高,且两者之间的差距很大,说明模型存在欠拟合的问题,可能需要增加模型的复杂度。如果训练误差很低,但验证误差较高,两者之间的差距也较大,说明模型存在过拟合的问题,可能需要减小模型的复杂度或采用正则化技术。通过绘制学习曲线,我们可以观察模型在训练过程中的训练误差和验证误差之间的变化趋势,从而帮助我们了解模型的拟合情况、是否存在欠拟合或过拟合的问题,以及是否需要调整模型的复杂度或优化算法等。通过观察学习曲线,我们可以更好地了解模型的学习进程和性能,从而指导我们进行模型选择和优化的决策。

Meta_C的博客 998

复制过的内容不再丢:EcoPaste 跨平台剪贴板管理实践

刚复制的一段话,切个窗口就被下一条盖掉了。系统剪贴板只保留最新一份,想找回前面的内容,只能退回原窗口重新复制一遍。EcoPaste 是干这个的:跨平台剪贴板管理,Windows、macOS、Linux 都支持,复制过的内容会一条条存下来。 ## 🚀 快速上手:三平台安装步骤 三个平台的安装包都放在项目仓库里。clone 下来后,按自己的架构挑一个即可:`git clone https://g

gitblog_00925的博客 343

ESXI 8.0.3 ubuntu 24.04 直通显卡P40

手把手,一步步教你直通GPU,ESXI 8.0.3 ubuntu 24.04 直通显卡P40

qq_36433118的博客 4687

从门禁到支付:Uniapp+NFC开发避坑指南(支持Mifare Classic)

本文详细介绍了Uniapp结合NFC技术开发门禁与支付系统的实战指南,特别针对Mifare Classic卡片进行深度优化。内容涵盖环境配置、设备兼容性处理、卡片安全机制解析以及高性能读写优化策略,帮助开发者快速实现跨平台的智能硬件交互解决方案。

t1u2v的博客 753

学习曲线和决策边界的绘制

评估机器学习模型好坏的时候,常常需要观察学习曲线的变化,以及最后的分类结果(二分类)的效果。一个好的可视化结果可以加强对模型的理解程度。下面总结一下决策边界和学习曲线的绘制代码,以便加强印象,方便查看。 # 决策边界的绘制 import numpy as np import matplotlib.pyplot as plt import matplotlib as mpl def plo...

ZhangXiang 5637

TOPSIS与熵权法实战:从数学建模到Python实现(附国赛案例分析)

本文详细解析了TOPSIS(逼近理想解排序法)与熵权法在数学建模中的协同应用,并通过Python代码实现完整流程。文章以国赛案例为背景,从指标正向化、数据标准化、熵权法计算客观权重,到TOPSIS综合排序,手把手指导如何解决多指标决策问题,为数据分析与建模提供了一套可复用的实战工具箱。

weixin_29079643的博客 245

解决PyCharm中from common.utils import plot_learning_curve语句出现报错的问题

将common包放到Anaconda安装路径\Anaconda\Lib下即可。由于系统默认的是Anaconda的python环境。若始终无法导入包,可尝试下面的代码来绘制学习曲线。通过下面的链接下载common的压缩包后解压。缺少其他的包也可以按照此方法进行。

weixin_52308622的博客 1741

ck3m多轴运动控制器笔记1:电机的配置与注意事项

利用PMAC(CK3M)运动控制器来实现对电机的控制,对具体的配置流程和注意事项讲解

p975468132的博客 4645

深入CRSF协议数据包:手撕STM32代码,教你像调试串口一样分析ELRS遥控数据流

本文深入解析CRSF协议数据包,通过手撕STM32代码,教你如何像调试串口一样分析ELRS遥控数据流。从硬件准备到数据包捕获状态机设计,再到高级数据分析技巧和实战应用,全面覆盖CRSF协议的解析与优化,帮助开发者构建稳定可靠的通信系统。

weixin_29194693的博客 338

机器学习学习曲线:诊断模型偏差与方差的实用指南

学习曲线是机器学习中诊断模型性能的重要工具,通过可视化训练集和验证集在不同数据量下的表现差异,帮助开发者理解模型的偏差(Bias)和方差(Variance)问题。其核心原理基于偏差-方差分解理论,能够直观反映模型是否欠拟合、过拟合或需要更多数据。在工程实践中,学习曲线常与交叉验证、正则化等技术结合使用,特别适用于随机森林、SVM等算法的调优过程。典型应用场景包括模型选择、数据需求评估和训练过程监控,其中sklearn的learning_curve函数提供了标准实现方案。掌握学习曲线分析技巧能显著提升模型调试

340

【SPI-NAND】Linux驱动移植实战:从规格书解析到内核适配

本文详细解析了SPI-NAND Flash的Linux驱动移植实战,从规格书关键参数提取到内核MTD子系统适配。内容涵盖存储结构解析、命令集映射、设备树配置及厂商驱动开发,特别强调ECC校验、坏块管理等NAND特性处理,并提供了性能优化与测试验证的实用技巧。

weixin_27076351的博客 352

学习曲线

机器学习 learning curve学习曲线用去判断模型学习过程中是否存在过拟合,如果在训练集和测试集上差距很大,则存在了过拟合现象import numpy as np import matplotlib.pyplot as plt from sklearn.learning_curve import learning_curve def plot_learning_curve(estimator

sinat_30915819的博客 908

ESP32+LED12864液晶屏实战:手把手教你显示中文与自定义图标(附完整代码)

本文详细介绍了如何使用ESP32单片机驱动带字库的LED12864液晶屏,实现中文显示与自定义图标。从硬件选型、接线方案到驱动编写、字库解析,提供了完整的实战代码与优化技巧,并最终构建了一个智能家居控制面板的完整示例项目。

weixin_29212867的博客 148

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

Babbel 产品分析案例研究:基于学习会话数据拆解用户早期激活旅程与增长优化路径

Babbel(语言学习产品)为产品分析(Product Analytics)候选人设计了一套以真实业务数据为基础的案例研究(Case Study),核心任务是分析订阅用户获得完整访问权限后**前两个月(8 周)**内的学习参与旅程,并识别激活与留存优化的切入点。本文以仓库中的 [案例研究文档](https://link.gitcode.com/i/51679e01db432674e146ee9b6

gitblog_00754的博客 695

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

学习曲线实战指南:诊断模型偏差与方差

学习曲线是统计学习中揭示模型泛化能力的核心工具,其本质源于偏差-方差分解理论——偏差反映模型对真实规律的系统性偏离,方差刻画预测结果对训练数据扰动的敏感程度。通过绘制训练误差与验证误差随样本量变化的趋势,可直观识别高偏差(欠拟合)、高方差(过拟合)、理想收敛及数据瓶颈等典型状态。该方法技术价值在于低成本、早介入、强解释:无需重训模型即可定位问题根源,且适用于从线性回归到深度学习的各类算法。典型应用场景包括模型选型对比、最小可行数据量(MVD)评估、增量学习触发判断及特征价值量化。本文聚焦Learning C

weixin_34301132的博客 348

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

学习曲线:用一张图诊断模型泛化能力

学习曲线是机器学习中用于评估模型泛化性能的基础可视化工具,其核心原理是通过绘制不同训练样本规模下的训练误差与验证误差变化趋势,揭示模型偏差-方差权衡状态。它不依赖复杂算法实现,却能直观反映欠拟合、过拟合、数据瓶颈等关键问题,具备强可解释性与跨角色沟通价值。在实际工程中,学习曲线支撑数据ROI测算、多模型选型对比、线上数据漂移预警等高阶应用,已成为MLOps流程中不可或缺的模型健康诊断手段。本文深入解析其数学本质、正确绘制方法及典型误用陷阱,聚焦学习曲线和验证误差两大热词,为算法、数据、产品团队提供可落地的实

weixin_34275734的博客 376
上一篇: 如何可视化混淆矩阵
下一篇: 使用可视化库matplotlib绘图时,plt.show()过后只出现Figure size 640x480 with 1 Axes而没有生成图片
AI_Rancho
博客等级 码龄10年 63粉丝 50原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值