普通deep autoencoder训练过程
本文主要参考Deeplearn toolbox中代码
matlab的Deep Learning toolbox,见:https://github.com/rasmusbergpalm/DeepLearnToolbox
一:加载数据
二:pre_training阶段
2.1初始化DAE网络框架
sae = saesetup([784 100 100]);%建立一个3层网络
在函数saesetup函数内部,循环调用nnsetup函数,此处2次调用nnsetup函数
最终saesetup([784 100 100]);建立一个2个autoencoder网络
分别是:784 ——100——784;100 ——100——100
2.1.1 nnsetup函数说明;
nn.size =architecture; nn.n= numel(nn.size)=3;

本文详细介绍了Denoising Autoencoder的训练过程,包括预训练阶段的数据加噪、初始化网络结构、训练参数设置,以及后续的微调阶段。在预训练中,对输入数据添加50%的随机噪声,通过nntrain函数进行最小批训练更新权重。在微调阶段,使用预训练的权重初始化前馈网络,并对整个网络进行进一步训练。文章还提出了关于激活函数选择的疑问。
最低0.47元/天 解锁文章
1167

被折叠的 条评论
为什么被折叠?



