深度学习：Hinton_Science_Reducing the dimensionality of data with neural networks

最新推荐文章于 2024-03-04 11:13:20 发布
转载 最新推荐文章于 2024-03-04 11:13:20 发布 · 724 阅读 · 0
文章标签：

#深度学习 #科研

[文献阅读] Reducing the Dimensionality of Data with Neural Networks
weixin_53834244的博客
01-03 1633
使用神经网络降低数据的维度由Hinton在2006年于Science上发表。当时的深度学习由于BP算法被指出存在梯度消失问题（当时还没有优化器的情况下），同时这也导致网络的初始化值对网络的训练结果影响很大。为了解决这两个问题，本文提出一个新的降维算法：由一个非线性的、自适应的多层的编码器（encoder）来将高维的数据转化为低维的编码，和一个相似的解码器（decoder）来将低维编码恢复成原始高维数据，整个系统构成一个自编码器。一开始自编码器基于RBM的预训练。
【论文阅读】 Hinton神经网络降维：Reducing the Dimensionality of Data with Neural Networks
wangqianqianya的博客
03-26 2031
知识点 autoencoder 自动编码器（自己生成自己，生成的自己可能表示方法不同，但都是同一个东西）。一种尽可能复现输入的神经网络，我们假设它的输入输出是一样的，通过训练调整网络参数，得到每一层的参数。这样我们就得到了输入的l种表示，每一层代表一种，表示也就是图片的特征。为了实现复现，autoencoder必须能捕捉到输入数据最重要的因素，就和pca一样，找到输入的主成分。 研究表...
reducing the dimensionality of data with neural networks---hinton
11-29
Hinton reducing the dimensionality of data with neural networks
【Deep Learning】Hinton. Reducing the Dimensionality of Data with Neural Networks Reading Note
weixin_33802505的博客
04-28 265
　　2006年，机器学习泰斗、多伦多大学计算机系教授Geoffery Hinton在Science发表文章，提出基于深度信念网络（Deep Belief Networks, DBN）可使用非监督的逐层贪心训练算法，为训练深度神经网络带来了希望。如果说Hinton 2006年发表在《Science》杂志上的论文[1]只是在学术界掀起了对深度学习的研究热潮，那么近年来各大巨头公司争相跟进，将顶级人才...
Reducing the Dimensionality of Data with Neural Networks：神经网络用于降维
热门推荐
wishchinYang的专栏
04-26 2万+
High-dimensional data can be converted to low-dimensional codes by training a multilayer neural network with a small central layer to reconstruct high-dimensional input vectors. Gradient descent can be used for fine-tuning the weights in such "autoenc
论文阅读-Reducing the Dimensionality of Data with Neural Networks
LuffysMan的博客
06-11 1222
作者: G.E.Hinton, R.R.Salakhutinov 日期: 2006.7 类型: reports 来源: Science(Journal) Problems Biggest problem Reduce the dimensionality of data. other problem Gradient descent can be used for fine-tuing ‘auto...
Hinton Science06 Reducing the dimensionality of data with neural networks
家家的专栏
07-16 2051
Science2006 - Reducing the Dimensionality of Data with Neural Networks
05-21
High-dimensional data can be converted to low-dimensional codes by training a multilayer neural ...better than principal components analysis as a tool to reduce the dimensionality of data.
reducing the dimensionality of data with neural network
11-01
作者:Hinton, GE (Hinton, G. E.); Salakhutdinov, RR (Salakhutdinov, R. R.) SCIENCE 卷: 313 期: 5786 页: 504-507 DOI: 10.1126/science.1127647 出版年: JUL 28 2006
Hinton论文系列-Reducing the dimensionality of data with neural networks
zephyr_wang的博客
08-23 3199
1 简介 本文根据2006年. G.E. Hinton 和R. R. Salakhutdinov的《Reducing the dimensionality of data with neural networks》翻译总结。 高维数据可以通过一个多层神经网络把它转换成一个低维数据，而且还能反向用低维数据重建高维数据。我们把这个神经网络叫做自动编码网络或自编码器（autoencoder）。梯度下降法可用来微调这个自动编码器的权值，但是只有在初始化权值较好时才能得到最优解，不然就容易陷入局部最优解。本文提供了一
[论文翻译]Reducing the Dimensionality of Data with Neural Networks
风信子的博客
08-20 4827
论文题目：Reducing the Dimensionality of Data with Neural Networks 论文来源：10.1126/science.1127647 翻译人：BDML@CQUT实验室 Reducing the Dimensionality of Data with Neural Networks 利用神经网络降低数据的维度 G. E. Hinton* and R. R. Salakhutdinov High-dimensional data can be converted
译（自编码器） Hinton2006---Reducing the Dimensionality of Data with Neural Networks
qq_45111878的博客
03-22 2827
Reducing the Dimensionality of Data with Neural Networks——使用神经网络降低数据维度 G. E. Hinton and R. R. Salakhutdinov 通过训练一个具有小的中间层的多层神经网络去重构高维输入向量，可以将高维数据转化为低维编码。在这种“自动编码器（autoencoder）”网络中，梯度下降可以用来微调（fine-tuning）权值，但是只有在初始权值接近一个好的解时才有效（work well）。我们描述了一种初始化权值的有效方法，
浅读——reducing the dimensionality of data with neural networks(一)
pandamax的博客
11-03 1991
最近在看DBN（深度信念网络）的相关知识以及代码，代码是Hition 的文章reducing the dimensionality of data with neural networks的代码部分。利用一点间歇时间把自己的学习体会总结一下，也不是太全。也结合了其他博主的文章，写一点自己的认识。也是刚刚学习不久，也会有些问题，望共同进步。RBM模型在原理上的实现和代码实现还是有所不同。其基本框架如
《Reducing the Dimensionality of Data with Neural Network》阅读心得
xuqn0606的博客
03-18 2169
      本论文是2006发表在《SCIENCE》上的一篇关于使用神经网络进行数据降维的文章，作者为G. E. Hinton and R. R. Salakhutdinov。        论文的思想是使用一个多层的神经网络对数据进行处理，中间层神经元个数少，实现从高维数据到低维数据的‘编码’，然后再通过低维到高维的‘解码’进行数据的重构，目标是减少元数据与重构数据的交叉熵。但是如果权重的初始化...
Reducing the Dimensionality of Data with Neural Networks「深度学习鼻祖G.E.Hinton经典论文」
最新发布
AndrewLi的博客
03-04 1365
高纬度的数据能被训练好的多层神经网络转化为低纬度的数据，这里的神经网络只需要使用一个小的核心层就能够将高纬度数据重构。梯度下降可以被用在优化这里的神经网络上，但只有当神经网络的初始值接近优秀解的时候梯度下降优化才有效。本文提出了一种初始化权重的方法，使得神经网络能够处理高维数据，在数据降维方面拥有比PCA算法更加优秀的性能。
卷积神经网络基础
weixin_45680994的博客
10-04 1533
深度学习简介 2006年，Hinton提出了深度学习，基本思想是通过构建多层网络，对目标进行多层表示，以期通过多层的高层次特征来表示数据的抽象语义信息，获得更好的特征鲁棒性。 深层模型优于浅层模型，这是因为浅层学习模型通常要由人工的方法来获得好的样本特性，在此基础上进行识别和预测，因此方法的有效性在很大程度上受到特征提取的制约。 一、什么是卷积神经网络 卷积神经网络（convolutional neural network）——CNN卷积神经网络是一种带有卷积结构的深度神经网络，是一种多层的监督学习神经网
Hinton 2006 science 文章 RBM 预训练 AutoEncoder
蒜法
04-14 1046
Reducing the Dimensionality of Data with Neural Networks, Hinton et al., 2006, science. 摘要 作者提出用 auto encoder 实现降维, 性能远超 pca. 作者同时发现 deep auto encoder network 非常依赖 effective initialization. 背景 AutoEncoder 基本理论 (高维-低微-高维, 重构输入), AutoEncoder 不易用梯度训练, 需要较好的.
长文 | 一文读懂什么是机器学习
机器学习算法与Python学习
10-31 871
微信公众号 关键字全网搜索最新排名 【机器学习算法】：排名第一 【机器学习】：排名第一 【Python】：排名第三 【算法】：排名第四 在进入正题前，我想大家心中可能会有一个疑惑：机器学习有什么重要性，以至于要阅读完这篇非常长的文章呢？ 我并不直接回答这个问题前。相反，我想请大家看两张图： 图1  机器学习界的执牛耳和互联网界大鳄的联姻 这幅图上的三人是当
2006年Hinton在Reducing the dimensionality of data with neural networks中首次提出了深度学习的概念吗？
07-16
不对，Hinton在2006年的论文《Reduc the dimensionality of data with neural networks》中并没有首次提出深度学习的概念。他在该论文中主要探讨了使用神经网络降低数据维度的方法，但并未提及深度学习。深度学习的...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值