深度自解码器(Deep Auto-encoder)

本文是关于李宏毅教授课程中深度自解码器的学习笔记,涉及PCA的扩展、预训练DNN、去噪自解码器、受限玻尔兹曼机和深度信念网络。自解码器在文本检索和相似图像搜索中有应用,通过预训练提升深度神经网络的性能。此外,还讨论了卷积神经网络中的自解码器和序列到序列自解码器在处理序列数据上的优势。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

本博客是针对李宏毅教授在youtube上发布的课程视频的学习笔记。

视频地址:ML Lecture 16: Unsupervised Learning - Auto-encoder

Auto-encoder

Encoder and Decoder

Each one of them can’t be trained respectively(no goal or no input), but they can be linked and trained together.

1

Starting from PCA

2

PCA only has one hidden layer, so we can deepen it to Deep Auto-encoder.

3

4

Above is Hinton(2006)’s design of deep auto-encoder, it achieves good result.

picture

Application: Text Retrieval

To compress a

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值