DNN的输入类型为什么要用one-hot编码?

最新推荐文章于 2025-05-15 00:43:09 发布
最新推荐文章于 2025-05-15 00:43:09 发布
阅读量3.6k 收藏 2
点赞数
CC 4.0 BY-SA版权
分类专栏： DeepLearning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_40314737/article/details/81736161
本文探讨了在深度学习中，如何正确处理分类特征数据。对于离散的分类特征，使用one-hot编码增强模型理解力；对于图像像素等连续数值，保留其固有意义；针对高维稀疏数据，采用embedding技术提升特征表达能力。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

1. 对于一些离散的分类特征数据,如用1,2,3,4,5,6,7,8,9 分别表示不同的物品,如果不经过one-hot编码直接输入到DNN中, 每个样本之间的关联可解释性不强,如果输出中间值如1.2也不好判定属于1还是2,因为1和2只是表示类别,中间值没有意义,强行取整的可解释性不强,输入变量之间的关系也不好判定,如果变为one-hot型编码,如类别1是[1,0,0,0,0,0],类别2是[0,1,0,0,0,0],可以通过向量之间的计算判断相关性,而且类别特征只注重是否属于哪种物品,或者说这种属性是否存在,对于值是多少不care,所以多用one-hot编码

2. 对于图像像素这种不是整数的中间值有可解释性, 表示介于两个整数灰度之间的值,所以不需要one-hot编码

3. 对与高维稀疏的分类特征数据,通常用embedding将高维稀疏的整数数据映射到低维稠密的浮点数据, 通过embedding可以计算变量之间的相似度, 提取更加抽象的特征.

人工智能：CNN(卷积神经网络)、RNN(循环神经网络)、DNN(深度神经网络)的知识梳理
JustinMars的博客
10-24 9145
CNN 主要用于处理图像数据，RNN 用于处理序列数据，而 DNN 是一个通用的深度神经网络架构，可以应用于各种不同类型的数据。这些神经网络架构也可以结合使用，以解决复杂的多模态问题。
分类网络中one-hot的作用
weixin_42605076的博客
05-25 776
one-hot编码在分类网络中具有重要作用。它通过将类别标签转换为独立的向量形式，避免了类别之间的数值误解，提高了模型的训练和分类性能，简化了损失计算过程，并且适用于多类别分类问题。因此，one-hot编码是神经网络分类任务中的常用和有效的方法。
基于神经网络的分类（one-hot）
03-08
基于神经网络的分类，train+test+predict，还有生成one-hot编码格式的函数。很好用，推荐，有已经训练号的权重文件checkpoint等。
文本分类-One Hot+DNN
机器学习、深度学习、文本分类、异常检测、风控等知识的积累和分享
08-21 313
上篇介绍了常规统计特征及tf-idf关键词特征的文本分类方法，本篇介绍One-Hot+DNN原理和文本分类代码实战，读者掌握了这些基础，后续就可以逐步深入理解和学习了。
one-hot 编码、multi-hot 编码 和 Embedding
最新发布
Rhett_Butler0922的博客
05-15 1031
Multi-hot 编码是 one-hot 编码的扩展，用于表示一个样本属于多个类别的场景。向量长度仍为类别总数NNN，但可以有多个位置为 1，表示样本同时属于多个类别。数学表示对于一个样本属于类别集合Si1i2ikSi1​i2​ik​vv0v1vN−1vj1ifj∈Selse0vv0​v1​vN−1​vj​1ifj∈Selse0例子Embedding（嵌入）
One-hot编码
healer的博客
03-23 6447
什么是Onehot编码？onehot编码又叫独热编码，其为一位有效编码，主要是采用N位状态寄存器来对N个状态进行编码，每个状态都由他独立的寄存器位，并且在任意时候只有一位有效。 Onehot编码是分类变量作为二进制向量的表示。这首先要求将分类值映射到整数值。然后，每个整数值被表示为二进制向量，除了整数的索引之外，它都是零值，它被标记为1。 举个例子： 在机器学习算法中，我们经常会遇到分类特征。 例如：人的性别有男女，祖国有中国，美国，法国等。这些特征值并不是连续的，而是离散的，无序的。 通常我们需要对其
[人工智能-深度学习-55]：循环神经网络 - 样本数据的几种编码方式：OneHot、ASCII、词向量word2vec
文火冰糖（王文兵）的博客
12-03 2210
作者主页(文火冰糖的硅基工坊)：文火冰糖（王文兵）的博客_文火冰糖的硅基工坊_优快云博客 本文网址：https://blog.youkuaiyun.com/HiWangWenBing/article/details/121691734 目录 前言： 1. 直接数值编码 1.1 概述 1.2 应用范围 2. 归一化与Normalize编码 2.1 概述 2.2 应用范围 3. 索引编码 3.1 概述 3.2 应用 4. OneHot数字编码 4.1 概述 4.2 应用 5. ASCII编
神经网络分类与one-hot编码实现教程
例如，sklearn.preprocessing.OneHotEncoder可以将类别标签转换为one-hot编码，而numpy的eye函数可以用来生成one-hot编码矩阵。 文件标题中提到的“checkpoint”，在神经网络的上下文中，通常指的是一种保存模型...
自然语言处理(七）
dayday学习的博客
03-13 1259
自然语言处理（七）--简单神经网络 1.文本表示1.1 one-hot编码1.1.1sklearn实现one hot encode1.2 word2vec得到词向量2. FastText2.1 FastText的原理。2.2 利用FastText模型进行文本分类2.2.1fastText有监督学习分类 1.文本表示 1.1 one-hot编码 什么是one-hot编码？one-hot编码，又...
DNN编码转换
02-19
4. **二进制编码**：在某些情况下，数据可能需要被编码为二进制形式，例如，对于分类问题，可以使用one-hot编码将类别转换为二进制向量。二进制编码能够帮助模型理解离散特征的含义。 5. **稀疏编码**：对于具有...
Learning to Embed Categorical Features without Embedding Tables for Recommendation
cqy33333的博客
08-26 895
论文笔记：Learning to Embed Categorical Features without Embedding Tables for Recommendation核心内容摘要1.introduction2.基于one-hot的embedding学习2.1 one-hot full embedding2.2 one-hot Hash embedding3.DHE3.1 Encoding Design插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右Sma
tensorflow入门项目（一）：手写数字识别之DNN模型（超超超详解）
qq_42847843的博客
12-12 1139
手写数字识别，为了学习的需要，所以记录的超级详细。一看就会，一看就懂。 一开始下载数据可能会花费点时间。 直接复制，即可运行 工具：pycharm ''' 在 MNIST 数据集中的每张图片由 28 x 28 个像素点构成, 每个像素点用一个灰度值表示. 在这里, 我们将 28 x 28 的像素展开为一个一维的行向量, 这些行向量就是图片数组里的行(每行 784 个值, 或者说每行就是代表了一张图...
深度学习编程笔记：tensorflow2.1案例实战---神经网络实现鸢尾花分类
weixin_42503072的博客
04-07 1595
# 利用鸢尾花数据集，实现前向传播、反向传播，可视化loss曲线 # 导入所需模块 import tensorflow as tf from sklearn import datasets from matplotlib import pyplot as plt import numpy as np import time ##1## # 导入数据，分别为输入特征和标签 x_data = d...
cuDNN学习笔记（2）-- 常用数据类型和API函数
北溟客的博客
08-08 2530
常用数据类型和API函数（持续更新中...）数据类型：cudnnDataType_t数据类型：cudnnConvolutionFwdAlgo_tAPI函数：cudnnGetConvolutionForwardWorkspaceSize() 本篇列举在darknet代码研读过程中遇到的常用数据类型和API函数。 2021.08.08更新 数据类型：cudnnDataType_t cudnnDataType_t是darknet的cudnn_convolutional_setup()函数中出现的一个数据类型。 它
时序数据深度学习笔记——DNN（一）
HughYue1990的博客
10-09 1570
时序数据中关于深度学习DNN在单步模式预测的学习笔记
基于tensorflow+DNN的MNIST数据集手写数字分类
潇洒坤
09-18 848
2018年9月17日笔记 tensorflow是谷歌google的深度学习框架，tensor中文叫做张量，flow叫做流。 DNN是deep neural network的简称，中文叫做深层神经网络，有时也叫做多层感知机（Multi-Layer perceptron,MLP）。 从DNN按不同层的位置划分，DNN内部的神经网络层可以分为三类，输入层，隐藏层...
CNN、RNN、DNN、自动编码器、DBRN的发展历程
qq_44886213的博客
04-06 2603
一、神经网络的来源 神经网络技术起源于上世纪五、六十年代，当时叫感知机（单层感知机），包含有输入层、输出层和一个隐藏层。输入的特征向量通过隐藏层变换到达输出层，由输出层得到分类结果。但早期的单层感知机存在一个严重的问题——它对稍微复杂一些的函数都无能为力（如异或操作）。直到上世纪八十年代才被Hition、Rumelhart等人发明的多层感知机克服，就是具有多层隐藏层的感知机。 多层感知机可以摆脱早期离散传输函数的束缚，使用sigmoid或tanh等连续函数模拟神经元对激励的响应，...
机器学习数据预处理1：独热编码（One-Hot）及其代码
热门推荐
梦Dancing的博客
04-27 5万+
1. 为什么使用 one-hot 编码？ 问题： 在机器学习算法中，我们经常会遇到分类特征，例如：人的性别有男女，祖国有中国，美国，法国等。 这些特征值并不是连续的，而是离散的，无序的。 目的： 如果要作为机器学习算法的输入，通常我们需要对其进行特征数字化。什么是特征数字化呢？例如： 性别特征：["男"，"女"] ...
独热编码（One-Hot）及其代码
一个很水的计算机研究生的博客
11-02 3万+
1. 为什么使用 one-hot 编码？ 问题： 在机器学习算法中，我们经常会遇到分类特征，例如：人的性别有男女，祖国有中国，美国，法国等。 这些特征值并不是连续的，而是离散的，无序的。 目的： 如果要作为机器学习算法的输入，通常我们需要对其进行特征数字化。什么是特征数字化呢？例如： 性别特征：["男"，"女"] 祖国特征：["中国"，"美国，"法国"] 运动特征：["足球"，"篮球"，"羽毛球"，"乒乓球"] ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值