LZCN'S MEMORANDUM

SynecedMemory 类是一个处理Host(这里称为CPU)和GPU中数据的类。

简介考虑一个典型的深度学习框架,假设我们有NN个训练样本, (x(i),y(i)),i∈N(\boldsymbol{x}^{(i)},y^{(i)}),i\in \mathbb{N}. 目标方程J(θ)J(\boldsymbol{\theta})衡量模型对于每个样本的损失和, 即:J(θ)=1N∑i=1NL((x(i),y(i)),θ))J(\boldsymbol{\theta}

Caffe单例子Caffe采用单例模式(singleton)为每个线程保存相关的变量和句柄. 在不同线程下的Caffe对象可以通过Get()函数进行访问.static boost::thread_specific_ptr thread_instance_;Caffe& Caffe::Get() { if (!thread_instance_.get()) { threa

数据填充类caffe::FillerFiller是一个数据填充类,采用特定的随机算法对Blob数据进行初始化.假设需要填充的变量为W\boldsymbol{W}. caffe提供常用的填充算法有: - “constant” : wij=vw_{ij} = v - “gaussian” : wij∼N(0,σ2)w_{ij}\sim N(0,\sigma^2). - “positive_u