sparseAutoencoderCost.m实现

稀疏自编码器成本函数实现详解

最新推荐文章于 2018-03-24 23:53:43 发布

原创

最新推荐文章于 2018-03-24 23:53:43 发布 · 1.1k 阅读

0 ·

CC 4.0 BY-SA版权

本文详细介绍了如何实现稀疏自编码器的cost计算，遵循Ufldl网站的教程，cost由平方误差项、权重衰减项和稀疏惩罚项三部分组成。在编码过程中，逐步添加每一部分并进行调试，确保通过导数检验。

实现稀疏自编码器的cost计算，题目要求见Ufldl，并且按照该网站提供的稀疏自编码器的教程进行编码

cost分为三部分the squared error term, the weight decay term以及sparsity penalty.每次增加一部分以方便调试，比如先计算the squared error term部分，用导数定义进行检验，正确后添加其他的部分。

function [cost,grad] = sparseAutoencoderCost(theta, visibleSize, hiddenSize, ...
                                             lambda, sparsityParam, beta, data)

% visibleSize: the number of input units (probably 64) 
% hiddenSize: the number of hidden units (probably 25) 
% lambda: weight decay parameter
% sparsityParam: The desired average activation for the hidden units (denoted in the lecture
%                           notes by the greek alphabet rho, which looks like a lower-case "p").
% beta: weight of sparsity penalty term
% data: Our 64x10000 matrix containing the trainin