［机器学习］如何选择模型－－cross validation

最新推荐文章于 2024-10-20 05:23:02 发布
原创 最新推荐文章于 2024-10-20 05:23:02 发布 · 3.9k 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#machine learning #预测 #算法 #netflix #dataset

本文探讨了在机器学习中如何选择模型，主要关注特征选择、算法选取和参数设定。通过介绍交叉验证的概念，如使用训练数据集D_train、测试数据集D_cv，以及K折交叉验证的方法，阐述了如何评估和选择最佳模型。Andrew Ng的建议是将数据分为训练、交叉验证和测试集，并推荐使用5折或10折交叉验证来确保模型的泛化能力。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

 对于一个机器学习系统，有以下几个问题需要解决：

1，如何选择feature？

2，该选用哪个算法？

3，给这个算法设置怎样的参数？

这些问题合在一起，就是“如何选择模型”的问题。


例如：可以实现分类系统的算法有 one－vs－all logistic regression，neural network，SVM等等，我们该用哪一个。


要解决个这个问题，我们就要用不同的组合（包括算法，参数，feature）对数据D_train进行training，得到不同的model。

要对这些model做测试，需使用新的数据D_cv。然后，对model的分类预测结果做一个评价（如何评价？）


Cross Validation

最低0.47元/天 解锁文章

200万优质内容无限畅学
Cross-validation
qq_42148307的博客
10-05 1135
交叉验证是一种，以评估预测模型的泛化能力和防止过拟合。与bootstrap一样，交叉验证也属于蒙特卡罗方法的家族。本文介绍了交叉验证及其相关的重采样方法。
通过交叉验证（Cross Validation）KFold绘制ROC曲线并选出最优模型进行模型评估、测试、包含分类指标、校准曲线、混淆矩阵等
data+scenario+science+insight
04-28 3201
通过交叉验证（Cross Validation，CV）KFold绘制ROC曲线并选出最优模型进行模型评估测试、包含分类指标、校准曲线、混淆矩阵等 Cross Validation cross validation大概的意思是：对于原始数据我们要将其一部分分为traindata，一部分分为test data。train data用于训练，test data用于测试准确率。在test data上测试的结果叫做validation error。将一个算法作用于一个原始数据，我们不可能只做出随机的划...
[Machine Learning] 交叉验证（Cross Validation）
Oh_MyBug的博客
02-13 798
交叉验证（Cross Validation） 什么是交叉验证（Cross Validation） 交叉验证是一种模型验证技术，可用于评估统计分析（模型）结果在其他独立数据集上的泛化能力。它主要用于预测，我们可以用它来评估预测模型在实践中的准确度。 什么是泛化（Generalization）能力呢？ 在《[Machine Learning] 回归（Regression）》中有提到，这里简单说明一下...
规则化和模型选择（Regularization and model selection）——机器学习：交叉验证Cross validation
Norstc的博客
10-21 857
零 问题提出 在机器学习中的偏差与方差一文中提到了偏差与方差。那么在多种预测模型，如线性回归(y=θTx)，多项式回归(y=θTx^(1~m))等，应使用那种模型才能达到偏差与方差的平衡最优？ 形式化定义：假设可选的模型集合是M={M1,M2,...,Md}，比如SVM，logisitic回归都在M中。   一 交叉验证（Cross validation） 第一个任务就是从M中选择最好的...
机器学习之Validation（验证，模型选择）
HuangQinJian
02-08 1万+
对于机器学习的模型选择来说，即使只是对于二元分类，我们已经学习了很多方法，比如PLA，LR等；很多学习算法都是可迭代的，需要决定迭代次数；你可能还需要决定每一次迭代走多大，例如梯度下降；或者有很多的转换可以选择，例如线性、二次等；同时规则化又有很多的选择L1，L2；再来规则化到底要加多强的λ\lambda。况且这些选择是组合起来的，某种程度上来说是组合爆炸的，那么我们怎么做出正确的选择？ 　　那么对
【机器学习笔记】Machine Learning Fundamentals: Cross Validation（交叉验证）
春雪阁
11-04 767
首先我们有一组医疗数据，以有无心脏疾病为标准记录各个患者的特征。 然后给出一名新患者的特征信息，判断他是否得心脏疾病。 接着我们要选出一种最合适的机器学习方法。然而方法有许多种，包括logistics regression（逻辑回归）、K-nearest neighbors（最近邻算法）、support vector machine（支持向量机、SVM）等等，我们该如何从中挑选？ C...
如何使用交叉验证 Cross Validation
张张的专栏
06-07 1万+
在机器学习的相关研究中，如果是有监督的算法，需要将原始数据集分为训练集和测试集两个集合。训练集中的数据带有标签，用这些数据来训练出一个模型，告诉机器什么样的数据可以分成哪一类，然后用这个模型来预测测试集中数据的标签。然后用预测得到的标签跟真实的标签作比对，就可以得到这个模型的预测准确率，其实是考察这个模型的generalization ability（泛化能力），即，从训练集中总结出来的规律能不能
K-fold-Cross-Validation-master.zip_cross validation_k fold_k-折_k
09-21
在机器学习领域，模型的评估和优化是至关重要的步骤，其中K折交叉验证（K-fold Cross-Validation，简称K折CV）是一种常用且强大的方法。K折交叉验证可以帮助我们更准确地评估模型的泛化能力，防止过拟合或欠拟合的...
伯克利大学机器学习-11Bootstrap&cross-validation&ROC plots Michael Jordan
11-16
这些内容对于理解机器学习模型的评估和验证过程至关重要。 Bootstrap方法是一种统计技术，它通过从原始数据集中有放回地抽取样本来生成大量新的样本集，这些新的样本集被称为Bootstrap样本。这种技术可以用来估计...
Leave-1-out cross validation 和 Leave-K-out cross validation
qq_51011530的博客
10-20 1034
LOOCV：每次留一个样本作为测试集，非常适合小数据集，但计算成本高。LKOCV：每次留KKK个样本作为测试集，相对更加灵活，计算成本也更低。这两种方法在实际应用中，可以根据数据集的规模和模型的复杂度来选择适合的方法。如果数据集较小，且希望尽可能高效地利用数据，可以选择 LOOCV；而对于较大数据集或希望减少计算负担的情况，可以选择 LKOCV，并灵活调整KKK的大小。
【机器学习】Cross Validation: 强化模型泛化能力的利器
鑫宝的博客
07-19 1984
Cross Validation是一种统计学方法，用于评估机器学习模型的性能，尤其是在数据量有限的情况下。它的核心思想是在模型训练过程中，将数据集分为几个互斥的子集，轮流将其中一个子集作为测试集，其余子集作为训练集，以此来多次训练和评估模型，从而获得模型性能的稳定估计。Cross Validation是机器学习中不可或缺的一部分，它不仅提供了模型性能的稳健估计，还帮助我们在有限的数据资源下做出更明智的决策。
推荐算法之Deep&Cross模型
qq_38375203的博客
06-03 1036
这算是Wide&Deep模型的一个补充吧，前面写了一篇文章推荐算法之Wide&Deep模型，本想着这两个模型合在一起写的，结果Deep&Cross模型都快写完了，断网了，没保存，只有前面的W&D模型（万字长文啊，心态炸裂）。休息了一会打算重开一个继续写吧，真的是难熬，关于前面总结的其余模型优劣点在这里就不说了，可以参考我前面的文章。还是老规矩，先上一下总体框架图吧。 关于这个模型其实就是对W&D中Wide部分进行改进的模型，前文中我们说过，W&D模型原理很简单，但是最主要的是要掌握W&D这种线性和非线性，处
【JY】超详细的非牛顿流体模型使用方法
热门推荐
Gavinson的博客
09-19 3万+
本篇文章将详细介绍非牛顿流体函数的具体使用方法。常见的非牛顿流体有：幂律、CarreauYasuda 模型、交叉模型、Herschel-Bulkley 模型以及粘度曲线等 5 种模型。表观粘度η非牛顿流体的粘度μ随剪切速率γ′和剪切应力τ而变化，所以用流动曲线上某一点的τ与γ′的比值来表示在某一值时的粘度，这种粘度称为表观粘度，用η表示：τ=ηγ′η=τ/γ′下面将介绍各模型的参数的含义：① 幂...
推荐模型-上下文感知-2017：Deep&Cross（DCN）【替换Wide&Deep的Wide部分；Wide还需要人工特征工程，而Cross可以进行特征的自动交叉，避免了基于业务理解的人工特征组合】
u013250861的博客
08-05 632
Wide&Deep模型原理很简单，但是最主要的是要掌握Wide&Deep这种线性和非线性，处理高维稀疏向量和embedding稠密向量的方式，能够使得模型同时具有泛化能力和记忆能力。模型的结构也非常简洁，从下往上依次为：Embedding和Stacking层、Cross网络层与Deep网络层并列、输出合并层，得到最终的预测结果。Deep&Cross模型是2017年由斯坦福大学和谷歌在ADKDD会议上联合提出的，该模型是对Wide&Deep模型的一种改进。...........................
使用网格搜索 + 交叉验证寻找性能最佳的机器学习模型
fatfairyyy的博客
09-02 1102
所谓交叉验证即k折交叉验证。即，将数据集大致均分为k份，每次选择一份作为测试集，其它k-1份作为训练集训练模型，并在测试集上验证其精度，最后可以计算这k-fold测试集上的精度的平均值。总之是，是一个改良的评估模型的方法。
sklearn基础篇（二）-- 交叉验证评估模型性能
CarpeDiem
10-20 6352
本节主要介绍使用留出法、K折交叉验证、留一法进行模型性能评估，以及在sklearn里如何快如使用交叉验证。
机器学习-交叉验证，模型选择与调优
qq_41782791的博客
04-18 2517
1.交叉验证：让评估 模型更加准确可信 2.网格参数 通常情况下，很多参数需要手动指定，这种叫超参数。每组超参数都采用交叉验证来评估，最终选择最优参数组合来建立模型。 如果有多组超参数，则需要进行两两相互验证 用交叉验证、网格搜索，找到KNN的最优模型参数 from sklearn.preprocessing import StandardScaler from sklearn.neighbors import KNeighborsClassifier from sklearn.m.
Deep&Cross模型
qq_42586738的博客
02-22 1059
Wide&Deep模型的提出不仅综合了“记忆能力”和“泛化能力”， 而且开启了不同网络结构融合的新思路。 所以后面就有各式各样的模型改进Wide部分或者Deep部分， 其中比较典型的就是Deep&Cross模型， 该模型针对W&D的wide部分进行了改进， 因为Wide部分有一个不足就是需要人工进行特征的组合筛选， 过程繁琐且需要经验， 2阶的FM模型在线性的时间复杂度中自动进行特征交互，但是这些特征交互的表现能力并不够，并且随着阶数的上升，模型复杂度会大幅度提高。于是乎，作者用一个
浅析机器学习中的模型选择与调参（cross validation + grid search）
Eason的博客
07-20 1万+
对于一个预测问题，同时有多种可用的模型，每种模型有多种可用的参数。如何选择一个最合适的模型？ 总题过程分为2个部分： 1.对于一个模型，如何评估该模型在特定问题上的好坏？ 2.选择了最好的模型后，如何选择最优的参数？       对于模型的评估，我们一般使用交叉验证(cross validation)来进行评估。 在这里我们使用了k折叠法，将训练集划分为相等的k份。然后从1
头歌机器学习机器学习 --- 模型评估、选择与验证
最新发布
01-03
### 机器学习中模型评估、选择与验证的方法 #### 数据分割方法 在机器学习实践中，数据通常被划分为训练集和测试集两部分。一般做法是采用80%的数据作为训练集用于构建模型，剩余20%的数据作为测试集来检验模型的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值