关于稀疏自编码器的自己的理解

本文介绍了作者对稀疏自编码器的理解,通过学习UFLDL教程并实践,探讨了稀疏自编码器的工作原理。作者指出,稀疏自编码器的目标是使神经元对输入图像的响应平均值接近于预设的稀疏性参数,从而模拟生物神经元的兴奋抑制机制。在训练过程中,通过梯度下降优化权重和偏置,以达到预设的稀疏性要求。最终,稀疏自编码器学习到的权值能够有效地检测图像的边缘。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

今天看了一天的稀疏自编码器,也跑了UFLDL教程 http://ufldl.stanford.edu/wiki/index.php/Exercise:Sparse_Autoencoder 上的exercise,参考了很多博客的代码,谢谢http://blog.youkuaiyun.com/llp1992/article/details/45579615 , 很快就跑通了,最后得到的权值结果,
最后得到的权值结果

这些都还好,如果只是看教程,推导公式,按算法得到伪代码,再写出代码,看似跑完了所有流程,但是对稀疏自编码器还是没什么具体的印象,感觉和没学过一样,所以稍微思考下,仅是个人愚见,仅作记录,防止忘了而已。

一个稀疏自编码器为什么最后可视化得到这样的结果呢?
首先输入是随机的10000张图片的任意局部裁剪出来的8x8的图片,随机抽取200张出来看看就是

评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值