DL：Convolutional Deep Belief Networks（CDBN）代码（matlab）理解

最新推荐文章于 2025-06-28 16:48:35 发布

转载最新推荐文章于 2025-06-28 16:48:35 发布 · 7.2k 阅读

DL 专栏收录该内容

158 篇文章

订阅专栏

本文详细解析了CDBN的代码实现，介绍了代码配置、编译步骤及数据处理方法。对比了不同计算方式下的实验效果。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

最近看了论文CDBN 的论文和代码，现将对代码的理解稍作整理。

有关论文的一些网址：

[1] CRBM http://qipeng.me/software/convolutional-rbm.html

[2] CRBM 论文笔记 http://www.cnblogs.com/lijingcong/p/4113143.html

[3] CDBN paper http://ai.stanford.edu/~ang/papers/icml09-ConvolutionalDeepBeliefNetworks.pdf

[4] CDBN matlab 代码 http://www.adv-ci.com/blog/source/cdbn/

（2）作者如何使用

作者在做实验的时候对binary data和Gaussian data做了不同的处理，认为mnistSmall data是binary data，MITcoast data是Gaussian data。Gaussian data会经过一步whiten。

（3）用Binary data 和 Gaussian data做了什么实验

对于Binary data，包括训练model+softmax分类，测试集进行预测

对于Gaussian data，由于原始的是coast图，且只有9幅，所以仅仅是对其进行训练，并没有进行分类。

关于pooling层不能正好整除的问题

从代码来看作者将卷积层和池化层关联在一起，共同作为一个layer。在训练某一layer的时候，首先需要对input data 做一下预处理。第一项就是对于pooling层不能整除的问题，代码上来看会是去除掉多余的行数，具体的做法如下code

[plain]view plaincopy 
   
 function [layer] = preprocess_train_data2D(layer)  
   
 %%  
   
 % Here you should preprocess your code for pooling layer  
   
 mod_1 = mod((size(layer.inputdata,1)-layer.s_filter(1))/layer.stride(1)+1,layer.s_pool(1));  
   
 if mod_1~=0  
   
    layer.inputdata(1:floor(mod_1/2),:,:,:) =[];  
    layer.inputdata(end-ceil(mod_1/2)+1:end,:,:,:) =[];  
   
 end  
   
 mod_2 = mod((size(layer.inputdata,2)-layer.s_filter(2))/layer.stride(2)+1,layer.s_pool(2));  
   
 if mod_2~=0  
   
    layer.inputdata(:,1:floor(mod_2/2),:,:) =[];  
    layer.inputdata(:,end-ceil(mod_2/2)+1:end,:,:) =[];  
   
 end  
   
 if layer.whiten  
 if strcmp(layer.type_input, 'Gaussian')  
   
     m = size(layer.inputdata,4);  
     n = size(layer.inputdata,3);  
   
     for i = 1 : m  
         for j =1 : n  
             layer.inputdata(:,:,j,i) = crbm_whiten(layer.inputdata(:,:,j,i));  
         end  
     end  
       
 end  
   
 end

训练CRBM时（包含pooling层），使用的三种不同计算方式

可以选择不同的计算方法 matlab matrix computation、MEX、CUDA，可以在'CDBN/toolbox/CDBNLIB/default_layer2D.m'中修改计算方法

layer.matlab_use = 0; layer.mex_use = 1; layer.cuda_use = 0;

也可以在层次的定义的时候修改计算方法：如在'DemoCDBN_Binary_2D.m' 第一层的定义的之前加入一行

layer{1}.matlab_use = 0; layer{1}.mex_use = 0; layer{1}.cuda_use = 1;

（1）matlab matrix 计算

卷积计算是用一个卷积核对前一层的所有的map进行卷积，然后将结果相加，得到新的feature map。再用第二个卷积核进行卷积求和。

①　前向

卷积求和后的结果为h_input，（block的大小与h_input一样。S_pool = 【2 2】，即block的 s_pool区域内的值为该区域h_input值的的和）

Binary：h_sample = exp(model.h_input)./(1+block);

Gaussian：h_sample = exp(1.0/(model.start_gau^2).*model.h_input)./(1+block);

②　反向

H_state = 二值化（h_sample）

V_input = 卷积 h_state 求和

Binary：V_sample = sigmoid（v_input）

Gaussian：v_sample = v_input

（2）Mex 计算

几个MEX调用C的函数库

[plain]view plaincopy 
   
 mxCreateCellArray  创建n维元胞mxArray  
 mxCreateCellMatrix  创建二维元胞mxArray  
 mxCreateCharArray  创建n维字符串mxArray  
 mxCreateCharMatrixFromStrings  创建二维字符串mxArray  
 mxCreateDoubleMatrix 创建二维双精度浮点mxArray  
 mxCreateDoubleScalar 创建指定值的二维精度浮点mxArray  
 mxCreateLogicalArray 创建n维逻辑mxArray，初值为false  
 mxCreateLogicalMatrix  创建二维逻辑mxArray，初值为false  
 mxCreateLogicalScalar  创建指定值的二维逻辑mxArray  
 mxCreateNumericArray  创建n维数值mxArray  
 mxCreateNumericMatrix  创建二维数值mxArray，初值为0  
 mxCreateScalarDouble 创建指定值的双精度mxArray  
 MxCreateSparse 创建二维稀疏mxArray  
 mxCreateSparseLogicalMatrix 创建二维稀疏逻辑mxArray  
 MxCreateString 创建指定字符串的1 n的串mxArray  
 mxCreateStructArray  创建n维架构mxArray  
 mxCreateStructMatrix  创建二维架构mxArray  
    