今天看了一天的稀疏自编码器,也跑了UFLDL教程 http://ufldl.stanford.edu/wiki/index.php/Exercise:Sparse_Autoencoder 上的exercise,参考了很多博客的代码,谢谢http://blog.youkuaiyun.com/llp1992/article/details/45579615 , 很快就跑通了,最后得到的权值结果,
这些都还好,如果只是看教程,推导公式,按算法得到伪代码,再写出代码,看似跑完了所有流程,但是对稀疏自编码器还是没什么具体的印象,感觉和没学过一样,所以稍微思考下,仅是个人愚见,仅作记录,防止忘了而已。
一个稀疏自编码器为什么最后可视化得到这样的结果呢?
首先输入是随机的10000张图片的任意局部裁剪出来的8x8的图片,随机抽取200张出来看看就是

本文介绍了作者对稀疏自编码器的理解,通过学习UFLDL教程并实践,探讨了稀疏自编码器的工作原理。作者指出,稀疏自编码器的目标是使神经元对输入图像的响应平均值接近于预设的稀疏性参数,从而模拟生物神经元的兴奋抑制机制。在训练过程中,通过梯度下降优化权重和偏置,以达到预设的稀疏性要求。最终,稀疏自编码器学习到的权值能够有效地检测图像的边缘。
最低0.47元/天 解锁文章
4万+

被折叠的 条评论
为什么被折叠?



