极度视界

Sparse Coding Toolbox——Open-Source！

DeepLearnToolbox 使用小结

7.27 暑假开始后，稍有时间，“搞完”金融项目，便开始跑跑 Deep Learning的程序Hinton 在Nature上文章的代码 跑了3天 也没跑完 后来Debug 把batch 从200改到20 勉强跑出结果后来开始看 文章等  感觉晕晕乎乎 又翻到：Deep Learning Tutorials 装Theano等，但是python 代码 Debug真是好生恶心再后来翻到 ...

Digit Recognizer手写体数字识别  MNIST数据集本赛 train 42000样例 test 28000样例，原始MNIST是 train 60000 test 10000我分别用 Logistic Regression/ 784-200-200-10的Sparse AutoEncoder/Convolution AutoEncoder刷了下==

Hinton 06 年的 A fast learning algorithm for deep belief nets首先提出了 pre-training + fine-tuning的优化 deep network的方法策略；mutil-layer network多年前就提出，但优化一直是个问题；非凸且参数巨多， 单隐藏层NN的优化算法Backpropagation Algorith往往得不到

Self-Taught Learning

【Deep Learning】3、Softmax Regression

Deep Learning 第一战：完成：UFLDL教程 稀疏自编码器-Exercise：Sparse AutoencoderCode:学习到的稀疏参数W1：参考资料：UFLDL教程 稀疏自编码器Autoencoders相关文章阅读:[3] Hinton, G. E., Osindero, S., & Teh, Y. (2

预处理 PCA与白化

Convolutional Neural Networks for Speech