特征编码1 - 特征编码概述与分类

特征编码在机器学习中起到关键作用,它能处理非量化数据,构造细粒度特征,但也可能导致其他重要特征被忽视,尤其是在高维数据场景下。无监督与有监督编码的区别在于是否依赖其他特征,而编码唯一性涉及是否引入随机性。在模型训练前的编码步骤对于模型性能有直接影响。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

对特征编码有助于:

  1. 处理无法量化的数据
  2. 便于得到更优模型
  3. 以更细粒度的处理我们的数据

博主在学习中觉得,特征编码既是一种优势,又是一种束缚

  • 优势在于:同样是年龄这个维度,如果是在研究奶粉的问题中,我们拆解问题的粒度需要到:0-1个月,1-3个月,3-6个月,6-12个月…,但是研究青少年焦虑的问题时,就需要另一种编码方法,因此手动进行编码可以构造更细粒度的特征。
  • 束缚在于:编码其实是构造特征的一种,因此编码会放大某个维度的粒度,其他即便很重要的特征也会被掩盖光芒。尤其当数据维度太大时(常见于推荐系统维度灾难),不得不会对所有离散数据进行再次的整合与编码,这时影响会更加严重。

后续,我们参考这样的表格来进行编码学习:
在这里插入图片描述

上图将编码的类型分为4类:

  1. 无监督,输出1维
  2. 无监督,输出多维
  3. 有监督,输出编码唯一
  4. 有监督,输出编码不唯一

无监督与有监督的区别是:

  • 无监督是对自己的数据,无需参考其他特征
  • 有监督需要参考其他维度(通常参考需要预测的那个维度的数据),对自己进行编码

输出编码是否唯一的区别是:

  • 唯一:编码过程中不涉及随机性
  • 不唯一:编码过程存在随机采样的情况,如果不设置随机种子,编码结果不唯一

在很多机器学习模型中,有很多模型都是先编码再训练的,在后续拓展时会简要介绍

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

呆萌的代Ma

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值