UFLDL教程 Exercise:Vectorization（答案）

最新推荐文章于 2018-04-14 20:41:38 发布

原创最新推荐文章于 2018-04-14 20:41:38 发布 · 827 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#DL #Sparse autoencoder #UFLDL #神经网络

Deep Learning 学习笔记专栏收录该内容

2 篇文章

订阅专栏

本文介绍如何通过矢量化编程提升机器学习模型训练效率，并使用MNIST数据集进行实操演示。文章详细记录了调整参数及数据集加载过程。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

（注：本人刚刚着手DL，所以博文也仅属于学习笔记范畴，每篇博文我都会将内容摘抄地址附在最上面，如果冒犯原作者，请见谅哈~）

参考链接：

http://www.cnblogs.com/hrlnw/archive/2013/06/08/3127162.html

网页教程参考：

Exercise:Vectorization

这一节练习是教我们怎么矢量化编程来代替低效率的for循环，用了MNIST数据集，其实和上一节基本一样，只是数据集变了而已，因为上一个博文（Exercise：Sparse autoencoder）代码部分已经是运用矢量化编程的了，所以步骤有以下两步：

1、train.m文件中把step0里面的各个参数调整成这样：

<span style="font-size:14px;">visibleSize = 28*28;   % number of input units 
hiddenSize = 196;     % number of hidden units
sparsityParam = 0.1;   % desired average activation of the hidden units.
                     % (This was denoted by the Greek alphabet rho, which looks like a lower-case "p",
             %  in the lecture notes). 
lambda = 3e-3;     % weight decay parameter       
beta = 3;            % weight of sparsity penalty term</span>

2、step1里面的写成这样：

<span style="font-size:14px;">images = loadMNISTImages('train-images.idx3-ubyte');
patches = images(:,1:10000);
% 
% patches = sampleIMAGES;</span>

注意：一定要把梯度检查注释掉，因为这次的数据集相对比较大，梯度检查所以会很慢。训练结束后会得到这种样子的图片：