奔跑的小白

之前人们所研究的算法都是针对单层字典学习（浅层字典学习），然而我们知道深层模型具有更抽象、更牛逼的表征能力。既然单层自编码对应的DL模型“栈式自编码”；RBM也有对应的DL模型“深度信念网络”；于是文献借助于这思想，也提出了单层字典学习的对应DL算法：深度字典学习。单层字典学习：X=DZ多层字典学习：X=D1*D2*Z(1)我们首先训练学习出第一层特征Z1、权重D1：X=D...

深度鲁棒编码器（Deep Robust Encoder, DRE），通过局部性保留低秩字典，来提取鲁棒的、辨别力的特征，同时优化一个低秩的字典和约束的深度自编码器。首先，在输出层设计一个新的损失函数，一个干净的低秩的字典，和对应的权重包含局部信息，使得重建过程无噪声。其次，判别性的图约束保留了数据的局部几何结构，引导每一个编码层的深度特征学习。两个具体步骤：Locality Pr...

1. 前言深度学习的威力在于其能够逐层地学习原始数据的多种表达方式。每一层都以前一层的表达特征为基础，抽取出更加抽象，更加适合复杂的特征，然后做一些分类等任务。堆叠自编码器（Stacked Autoencoder，SAE）实际上就是做这样的事情，如前面的自编码器，稀疏自编码器和降噪自编码器都是单个自编码器，它们通过虚构一个x−>h−>xx−>h−>x的三层网络，...

基于深度矩阵分解的属性表征学习原文地址：http://blog.youkuaiyun.com/hjimce/article/details/50876956作者：hjimce一、相关概念本篇博文主要讲解文献《A deep matrix factorization method for learningattribute representations》。这篇主要借助于深度学习的思想，提出贪婪...