sparseAutoencoderCost.m实现

最新推荐文章于 2018-03-24 23:53:43 发布

SiWxyer

最新推荐文章于 2018-03-24 23:53:43 发布

阅读量1.1k

点赞数

CC 4.0 BY-SA版权

分类专栏： Ufldl 稀疏自编码器 Matlab

本文链接：https://blog.youkuaiyun.com/wangxiaoyaner/article/details/53354050

本文详细介绍了如何实现稀疏自编码器的cost计算，遵循Ufldl网站的教程，cost由平方误差项、权重衰减项和稀疏惩罚项三部分组成。在编码过程中，逐步添加每一部分并进行调试，确保通过导数检验。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

实现稀疏自编码器的cost计算，题目要求见Ufldl，并且按照该网站提供的稀疏自编码器的教程进行编码

cost分为三部分the squared error term, the weight decay term以及sparsity penalty.每次增加一部分以方便调试，比如先计算the squared error term部分，用导数定义进行检验，正确后添加其他的部分。

function [cost,grad] = sparseAutoencoderCost(theta, visibleSize, hiddenSize, ...
                                             lambda, sparsityParam, beta, data)

% visibleSize: the number of input units (probably 64) 
% hiddenSize: the number of hidden units (probably 25) 
% lambda: weight decay parameter
% sparsityParam: The desired average activation for the hidden units (denoted in the lecture
%                           notes by the greek alphabet rho, which looks like a lower-case "p").
% beta: weight of sparsity penalty term
% data: Our 64x10000 matrix containing the trainin