特征工程：归一化、特征组合、高维特征降解

原创 已于 2023-03-18 18:03:28 修改 · 406 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#特征工程 #Normalization #机器学习

于 2021-10-19 22:01:25 首次发布
特征工程中的归一化通过线性函数（Min-Max Scaling）和零均值（Z-Score Normalization）方法消除量纲影响，确保不同尺度特征平等参与计算。归一化可以加速梯度下降的收敛过程，而特征组合则用于创建高维特征或降低维度。决策树在寻找有效特征组合时发挥作用，例如通过梯度提升决策树。此外，BatchNormalization、LayerNormalization和WeightNormalization等技术在批量训练中也常用于特征调整。

特征工程

归一化 (Normalization)

归一化的目的是为了消除特征之间的量纲(scale)影响，比如一个特征值在1000左右的特征在参与计算时起的作用，肯定比特征值在10左右的特征大，特征值小产生的影响的会被淹没，因而将他们放缩到同一个量级才能正确分析结果。

常用方法有两种：

  1. 线性函数归一化（Min-Max Scaling）：对原始数据进行线性变换，将结果映射到[0, 1]的范围，实现对原始数据的等比缩放。归一化公式为：
    Xnorm=X−XminXmax−XminX_{norm}=\frac{X-X_{min}}{X_{max}-X_{min}}Xnorm​=

最低0.47元/天 解锁文章
图像特征提取
Sunshine
05-21 2445
特征提取是计算机视觉和图像处理中的一个概念。它指的是使用计算机提取图像信息，决定每个图像的点是否属于一个图像特征。特征提取的结果是把图像上的点分为不同的子集，这些子集往往属于孤立的点、连续的曲线或者连续的区域。  特征的定义          至今为止特征没有万能和精确的定义。特征的精确定义往往由问题或者应用类型决定。特征是一个数字图像中“有趣”的部分，它是许多计算机图像分析算法的起点
特征归一化总结（Feature Scaling）
014技术仓库
08-05 3963
写在前面 最近在研究基于小样本的故障诊断问题，看到很多关于利用数据驱动中深度学习的方法来优化故障诊断问题中，部分文献会通过“归一化”的方式，优化步骤，从而达到较少训练样本数或者节省训练时长。之前对归一化有过一定接触，但是不太了解。刚好趁此机会，将网上的一些归一化方法进行整理和总结。 纯粹自己学习整理，侵权删。 也参考了部分笔记： https://www.cnblogs.com/shine-lee/p/11779514.html（给了我很多建议，其中很多也都在这里有一些摘抄） https://www.zhih
模型需要对特征进行归一化吗_模型融合完全手册 - 套娃的艺术：将模型作为特征进行建模...
weixin_39646706的博客
01-07 257
hi，我是为你们的xio习操碎了心的和鲸社区男运营 我们的网站：和鲸社区 Kesci.com 我们的公众号：和鲸社区（ID：heywhale-kesci） 有干货，来！有了之前 特征工程完全手册 - 从预处理、构造、选择、降维、不平衡处理，到放弃 这篇，我寻思着，不能虎头蛇尾啊，数据科学竞赛的第一步“特征工程”讲明白了，最后一步“模型集成”咱也得说说啊。于是，我就去 和鲸社区 给大家搬了个教程过来...
数据特征归一化(Feature Scaling)学习及实现
paopaohll的博客
08-14 1421
为什么需要特征归一化 不同特征指标往往具有不同的量纲和量纲单位，这样的情况会影响到数据分析的结果，为了消除指标之间的量纲影响，需要进行数据标准化处理，以解决数据指标之间的可比性。原始数据经过数据标准化处理后，各指标处于同一数量级，适合进行综合对比评价。 常用的两种归一化方法 最值归一法（normaization）: 最值归一法将数据映射到0-1之间。 适用于分布有...
EfficientDet论文阅读笔记
yy2050645的博客
12-22 935
一.摘要
机器学习之特征归一化（normalization）
Chestnutttttt
06-18 580
转载：https://blog.youkuaiyun.com/leiting_imecas/article/details/54986045不太知道怎么转载了，因为：内容就不贴了，具体看上述网址。
特征变换：特征归一化（Normalization）作用以及方法 Min-Max、Z-Score
qq_34120015的博客
06-06 9009
特征归一化（Normalization）作用以及方法 Min-Max、Z-Score
根据下列步骤复现论文，并给出详细的步骤及代码：1. 研究对象与数据获取 (1) 研究对象定义 核心目标：研究铁基氧化物催化剂（如Fe₂O₃、Fe₃O₄、FeOOH等）在活化过硫酸盐（PMS/PDS）体系中对不同抗生素的降解性能。 关键科学问题： 铁基催化剂的活性位点与抗生素分子结构的匹配关系。 反应条件（pH、温度、PMS浓度）对自由基/非自由基路径的调控机制。 (2) 数据获取方法 数据来源： 文献数据库：Web of Science、ScienceDirect、PubMed、CNKI。 关键词组合： 英文："iron-based catalysts" AND "antibiotic degradation"、"persulfate activation" AND "FeOx"。 中文："铁基催化剂" AND "抗生素降解"、"过硫酸盐活化"。 筛选标准： 实验数据完整（催化剂组成、反应条件、降解率、机理分析）。 时间范围：近10年（2014-2024），优先选择高影响因子期刊。 数据收集内容： 催化剂特征：化学组成（如Fe₃O₄@C）、载体（如石墨烯、生物炭）、合成方法（水热法、煅烧）。 实验条件：抗生素类型（如四环素、磺胺类）、初始浓度、催化剂投加量、PMS/PDS浓度、pH、温度、反应时间。 性能指标：去除率（%）、降解动力学常数（k值）、自由基贡献（EPR/淬灭实验数据）。 数据规模目标：收集至少150组数据（需覆盖5种以上抗生素、10种以上铁基催化剂）。 2. 机器学习方法扩展 (1) 基础模型选择与改进 回归任务（预测去除率）： 模型扩展：在AdaBoost基础上，增加XGBoost、LightGBM、随机森林、神经网络（MLP）。 改进点： 动态特征选择：使用递归特征消除（RFE）自动筛选关键变量。 数据增强：对少数样本（如特定抗生素）使用SMOTE过采样。 分类任务（预测降解机制）： 模型扩展：引入图神经网络（GNN），直接处理抗生素分子图结构（非SMILES编码）。 改进点： 多标签分类：允许同时预测自由基（·OH、SO₄⁻）和非自由基（¹O₂）贡献比例。 (2) 新增研究方法 迁移学习： 预训练策略：利用已有钴基催化剂数据（原论文数据集）预训练模型，再通过铁基数据微调，解决小样本问题。 强
最新发布
04-10
归一化或标准化也是必要的，特别是不同特征的量纲差异大时，可以用Scikit-learn的StandardScaler或MinMaxScaler。特征工程部分可能需要构建新的特征，比如铁氧化物的比表面积与反应时间的比值，或者利用域知识创造...
PCA降解技术.zip
06-28
1. **数据预处理**：首先，需要对数据进行标准化或归一化，使得所有特征在同一尺度上，这样可以避免数值范围不同的特征对结果产生不适当的影响。 2. **计算均值**：计算每个特征的平均值，然后将每个样本的特征值...
Opencv运动物体常用的特征提取与匹配方法
彼岸花
06-04 5128
Opencv运动物体常用的特征提取与匹配方法 提取图像空间关系特征可以有两种方法： 1）  首先对图像进行自动分割，划分出图像中所包含的对象或颜色区域，然后根据这些区域提取图像特征，并建立索引；（分割——块特征——索引） 2）  简单地将图像均匀地划分为若干规则子块，然后对每个图像子块提取特征，并建立索引。  姿态估计问题：确定某一三维目标物体的方位指向问题。 姿态估计在机器人视觉、动作
机器学习系列手记（二）：特征工程之特征归一化、类别型特征、高维组合特征的处理、组合特征
yly_3026925713的博客
03-02 1229
特征工程       俗话说，“巧妇难为无米之炊”。在机器学习中，数据和特征就是“米”，模型和算法就是“巧妇”。没有充足的数据、合适的特征，再强大的模型结构也无法得到满意的输出。数据和特征往往决定了一个机器学习问题结果的上限，而模型、算法的选择及优化则是在逐步接近这个上限。      &n...
特征工程-特征归一化
止鱼
03-04 1283
1、场景描述： 为了消除数据特征之间的量纲影响，需要对特征进行归一化（Normalization）处理，使得不同特征处于同一个数量级，具有可比性 2、常用的归一化方法 2.1、线性函数归一化（Min-Max Scaling） 对原始数据进行线性变换，使结果映射到 [0,1] 的范围内，实现对原始数据的等比缩放。 归一化公式： 其中，X为原始数据，min和max分别代表数据的最大最小值 2.2、零...
特征归一化的好处
weixin_45834072的博客
11-10 1187
特征归一化的好处1、什么是特征归一化？2、为什么要进行特征归一化？3 、特征归一化的方法3.1线性函数归一化（Min-Max Scaling）（数据归一化)3.2零均值归一化（Zero-Score Normalization）(数据标准化)4、特征归一化的好处？4.1提高收敛速度4.2提升模型的精度4.3深度学习中数据归一化可以防止模型梯度爆炸5.总结 在机器学习中我们经常需要将特征归一化,下面我...
特征预处理(归一化,标准化)基础
lx2929266892的博客
05-13 1744
特征预处理(归一化,标准化)基础
29 | 归一化和标准化：各种特征如何综合才是最合理的？
qq_37756660的博客
04-16 1401
今天介绍了在机器学习领域里，如何使用统计里的数据分布来进行特征值的转换。这里，梳理了几个要点，便于你的记忆。第一点，为什么有时候需要转换特征值？因为不同类型的特征取值范围不同，分布也不同，相互之间没有可比性。因此在线性回归中，通过这些原始值分析得到的权重，并不能代表每个特征实际的重要性。第二点，如何使用归一化进行特征值转换？这里的归一化是指使用特征取值范围中的最大值和最小值，把原始值转换为 0 到 1 之间的值。这样处理的好处在于简单易行，便于理解。
特征融合与特征降维：如何实现数据融合
AI天才研究院
12-31 3498
1.背景介绍 随着数据量的增加，数据集的规模也随之增加，这使得数据分析和机器学习变得越来越复杂。为了处理这些大规模的数据，我们需要对数据进行处理，以便在进行分析和预测时更有效地利用它。这就是特征融合和特征降维的原因。 特征融合是将多个特征集合或数据集合组合成一个新的数据集的过程。这有助于提高模型的准确性和性能，因为它可以利用不同特征之间的关系和相互作用。特征降维是将原始数据集中的特征数量减少到...
特征工程——高维组合特征的处理
goTsHgo的博客
01-03 1377
当原始特征数量很大时，可能需要探索指数级的组合空间，这会带来计算复杂度和存储资源的挑战。高维组合特征的处理是特征工程的重要环节，尤其是在处理复杂数据关系时，通过构造交互特征或高阶组合特征可以提高模型性能。在高维数据中，不可能对所有特征进行盲目组合，通常需要结合领域知识或统计方法来选择重要特征进行交互。以下将从底层原理到代码实现详细解析高维组合特征的处理，尽量通俗易懂，同时全面覆盖相关技术细节。通过模型的重要性分数（如树模型的特征重要性）筛选组合特征。生成所有特征的高阶组合和交互特征。
【nn.Parameter】Pytorch特征融合自适应权重设置（可学习权重使用）
weixin_45337440的博客
03-08 3030
自适应可学习权重系数，在进行特征融合时，给不同特征图分配可学习的权重！
【笔记】特征融合
热门推荐
TobiasYoung的博客
03-06 2万+
一、数据预处理 这几天写人脸关键点检测代码，中间忘了将图片在送入网络之前，减去图片的均值，从有关函数的名称来看，这算是一种归一化操作。总之，缺少这个操作的结果，就是loss一直在抖，丝毫没有下降或上升的趋势。所以今天从这个问题入手，对这问题相关进行掌握。 看了一些深度学习框架的例程，处理原图为黑白比如mnist数据集，不需要进行图片均值减去处理，而三通道彩图，一般都需要。 二、特征融合 https...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值