机器学习 4 model selection and feature selection

最新推荐文章于 2025-08-11 16:25:07 发布
最新推荐文章于 2025-08-11 16:25:07 发布 · 96 阅读 · 0
文章标签：

#人工智能

本次讲座涵盖了机器学习中交叉验证方法的介绍，包括hold-out交叉验证的具体划分比例及k折交叉验证等；同时探讨了特征选择问题，介绍了前向选择算法与后向搜索算法的不同之处；还提到了一个未详细解释的空心问题。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

机器学习 第10讲 http://v.163.com/movie/2008/1/U/O/M6SGF6VB4_M6SGJURUO.html

1. hold-out cross validation

training set - 70%

cross-validation set - 30%

a. k = 10

b. leave one out CV

2. feature selection problem 即数据挖掘中的特征化 属性选择

forward selection algorithm begin with empty set

backward search begin with full set

3. empty heart problem, 没听懂。

iteye_12827
关注
sklearn 学习之 model_selection
我是欢乐谷啊~
05-07 9074
今天主要学习模型选择过程中各种数据分割的类与函数，主要是为了模型选择中进行validation。英文原版链接，网页中 Ctrl+f 搜索 sklearn.modelselection 即可找到。一：类，Splitter Classes（1.1）model_selection.GroupKFold([n_splits])    这个类有个很大的特点就是在对训练数据进行 split 之前，可以按照需求...
机器学习 ❉ 特征选择算法（Feature Selection Algorithm）
weixin_43156294的博客
05-31 1600
特征选择是机器学习中一个重要的算法，它涉及从原始数据集中选择一组最具代表性和最有信息量的特征，以提高模型的性能和减少计算成本。
python——机器学习：sklearn特征选择feature_selection
weixin_53848907的博客
08-22 4034
特征选择是机器学习中很重要的一部分，构造并选取合适的特征，能极大的提高模型的表现。sklearn中feature_selection模块提供了一些特征选择方法。包括方差阈值法、相关性过滤法、嵌入法和包装法等。本文通过鸢尾花数据集详细介绍这些方法的使用
机器学习：特征选择（feature selection）2020
irober的博客
09-30 1756
特征选择 常见方法 Filter 1、去掉取值变化小的特征（Removing features with low variance） 2、单变量特征选择 (Univariate feature selection) Wrapper 3、递归特征消除 (Recursive Feature Elimination) Embedding 4、使用SelectFromModel选择特征 (Feature selection using SelectFromModel) 5、将特征选择过程融入pipeli
机器学习 Regularization and model selection
Matrix-11
09-25 3202
Regularization and model selection 假设我们为了一个学习问题尝试从几个模型中选择一个合适的模型。例如，我们可能用一个多项式回归模型hθ(x)=g(θ0+θ1x+θ2x2+…θkxk)h_{\theta}(x)=g(\theta_{0}+\theta_{1}x+\theta_{2}x^{2}+ …\theta_{k}x^{k})，我们需要设定一个合适的阶数k，
机器学习：特征选择（feature selection）
热门推荐
小马哥的博客
03-11 8万+
特征选择 这篇文章是关于机器学习中常用的特征选择的一个小结，整体上包括两部分 简介 常见方法 Filter 去掉取值变化小的特征（Removing features with low variance） 单变量特征选择 (Univariate feature selection) Wrapper 递归特征消除 (Recursive Feature Elimination) Em...
【机器学习】特征选择(Feature Selection)方法汇总
小白学视觉
08-03 2120
点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达作者丨孙佳伟@知乎（已授权）来源丨https://zhuanlan.zhihu.com/p/74198735编辑丨极市平台极市导读详解三大类特征选择方法。介绍特征选择是特征工程里的一个重要问题，其目标是寻找最优特征子集。特征选择能剔除不相关(irrelevant)或冗余(redundant )的特征，从而达到减少特征个数，提高...
机器学习之特征选择（Feature Selection）
TwcatL_tree
04-09 6962
本文讲了过滤法、嵌入法和包装法三种特征选择方法。三种方法中过滤法最为简单快速，需要的计算时间也最短，但是也较为粗略，实际应用过程中，通常只作为数据的预处理，剔除掉部分明显不需要的特征，然后使用其他方法进一步特征选择。嵌入式和包装法更为精确，更适合具体到算法中去调整。计算量也较大，相应的运行时间也比较长。当数据量比较大时，优先使用方差过滤和互信息法对数据进行预处理，然后在使用其他的特征选择方法。使用逻辑回归时，优先使用嵌入法。使用支持向量机时，优先使用包装法。
sklearn机器学习之特征选取（feature_selection）
m0_45184077的博客
03-09 3841
1.导入相应包 import pandas as pd from sklearn.feature_selection import VarianceThreshold import numpy as np from sklearn.ensemble import RandomForestClassifier as RFC from sklearn.neighbors import KNeighborsClassifier as KNN from sklearn.model_selection import
机器学习中特征选择方法1(Feature Selection Method)
qq_41566322的博客
11-18 909
过滤法（Filter Methods）：基于统计检验或相关性评估等指标对特征进行排序，然后选择排名靠前的特征。 包装法（Wrapper Methods）：通过尝试不同的特征子集来训练模型，并根据模型性能选择最佳的特征子集。 嵌入法（Embedded Methods）：在模型训练的过程中，使用正则化等技术来自动选择最优的特征。
机器学习的特征选择(feature selection)
selous的专栏
11-30 6620
写在开头：刚开始接触机器学习，选择了周志华教授的《机器学习》作为入门教材，很不错的书籍，受益良多。没有使用matlab去编写代码，而是选择了使用python的scikit-learn的开发包，大致看了一下开发包的特征选择方法，结合周志华教授的书，想先总结总结feature selection的方法特征选择filter(过滤式)思路通过评估自变量与目标变量之间的关联，也就是量化两者之间的关系，我们暂且
机器学习-特征工程-Feature generation 和 Feature selection
kkkkk0826的专栏
01-19 1030
概述：上节咱们说了特征工程是机器学习的一个核心内容。然后咱们已经学习了特征工程中的基础内容，分别是missing value handling和categorical data encoding的一些方法技巧。但是光会前面的一些内容，还不足以应付实际的工作中的很多情况，例如如果咱们的原始数据的features太多，咱们应该选择那些features作为咱们训练的features？或者咱们的featu...
【AI论文】高效智能体：在降低成本的同时构建高效能智能体
m0_66899341的博客
08-08 775
本研究系统探究了大型语言模型(LLM)智能体的效率与效能平衡问题，针对当前智能体系统运营成本高昂的痛点，通过GAIA基准测试集实证分析了LLM主干模型选择、框架设计和扩展策略的影响。研究发现：1)任务复杂度存在最优阈值；2)额外模块的边际效益递减；3)框架优化可显著提升效率。基于此开发的EfficientAgents框架，在保持96.7%性能的同时降低28.4%成本，实现"通过成本"指标优化。研究为构建经济高效的智能体系统提供了实证依据和方法指导，推动AI解决方案的可持续发展。
强化学习-MATLAB
weixin_45302337的博客
08-09 478
black box -> machine learning不需要标签，根据内在特征进行聚类等相似操作；这就是ML所擅长的，从数据中找出特征进而得到label；序列行为实现最优的回报；可以将policy使用深度神经网络这也是DRL的由来；RL算法的作用就是基于观测，奖励等去优化策略，以采取最优动作进而获得最大回报；所以，RL就是一个优化问题：与其他优化问题区分开来：关键点：评估状态价值，将能够使得智能体获得更高回报，而不是只是关注即时奖励；如果不能够评估状态价值，很有可能导致Agent陷入利用（贪婪）的状态，
教程 | 使用SAHI结合supervision进行小目标检测
热爱分享，热爱记录
08-07 1311
NMS 通过基于置信度分数消除冗余的检测结果来工作，而 NMM 则将重叠的检测结果合并，以增强对跨越多个图块的对象的表示。它将大图像分割成较小的切片，对每个切片进行推理，然后合并结果，以形成整个图像的最终检测结果。将图块数量增加到 5x5 网格，我们实际上是对图像进行了放大，这样模型就能捕捉到更精细的细节，比如之前可能遗漏的更小、更远的物体。在深入探讨用于小目标检测的SAHI技术之前，先看看经过微调的模型在未经任何预处理或切片的原始图像上的表现是很有帮助的。经过一些测试后，我发现最佳方法是检测人的头部。
CVPR 2025 | 即插即用，极简数据蒸馏，速度up20倍，GPU占用仅2G
最新发布
AImokuai的博客
08-11 772
本文提出了一种创新的神经特征函数匹配（NCFM）方法用于高效数据集蒸馏。该方法通过构建minmax对抗优化框架，引入神经特征函数差异（NCFD）作为新的分布度量指标，在复数空间实现数据特征的对齐。NCFM具有三大创新点：1）基于复数相位和振幅解耦的神经特征函数度量；2）动态采样网络实现高效计算；3）层级式特征对齐机制。实验表明，在CIFAR-100等数据集上，NCFM相比现有方法内存消耗降低300倍，处理速度提升20倍，同时保持无损压缩效果，为低资源环境下的模型训练提供了新范式。该方法在边缘计算、隐私保护数
快速了解svm算法
wzdzgdf的博客
08-08 1590
如果你刚接触机器学习，一定听过各种算法的名字：决策树、神经网络、SVM… 其中 SVM（支持向量机，Support Vector Machine）作为经典的监督学习算法，在分类任务中曾长期占据 “顶流” 地位，至今仍在很多场景中发挥重要作用。今天这篇文章，带你快速搞懂 SVM 的核心逻辑、关键概念和实际价值。
台湾大学林轩田教授机器学习PPT全集
10. **模型选择与调参（Model Selection and Hyperparameter Tuning）**：在众多机器学习模型和算法中选择适合特定问题的模型，以及调整模型参数来获得最佳性能。 此外，从“机器学习基石.zip”这一标题中，我们...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值