Footprint：Chengyao's Technical Blog

昨天点开HTM的Wiki主页，无意间发现Wiki上更新了Numenta公司创始人之一Dileep新开的blog: Mind Matter。于是顺藤摸瓜找到了他的个人主页，惊讶的发现主页上赫然写着此兄已离开Numenta开新公司去了：I am on an extended leave of absence from Numenta to explore forming a new company focused on applications. Interested in teaming up? Send m

最近主要在看Reservoir Computing。RC这个领域是由两篇twin paper共同确立的，这两篇paper一个从Engineering的角度提出了Echo State Network的概念，另一个从bio的角度提出了Liquid State Machine的概念。这两篇paper的链接如下，有兴趣可以拿来参考：The "echo state" approach to analysing and training recurrent neural networksReal-time comput

好久没有更新了最近在看Efficient Coding和Deep Belief Network，在matlab上纠结了很久之后终于决定转战python了，毕竟research还是要在前人基础上做才能进步更快。三个关于Deep Learning 不错的库：https://github.com/Theano/Theanohttps://github.com/lisa-lab/Dee

"真理本身之所以是真理，就在于它穿透了语言的有限性而将人带入到对真实世界的直观把握中。" ——http://my1510.cn/article.php?id=69054最近在做sparse coding, 用Bruno Olshausen最原始的方法, 因此却发现了一些背后直感上更接近真理的东西。中间有一步需要通过得到的sparse响应重建输入图像，之前一直是用Matlab for循环直接

这里指的Deep Network包括: Convolutional Sparse Coding, Deep RBM, TCNN，Sparse Autoencoder等等。这方面的基本知识可以参照1. http://deeplearning.net/tutorial/2. http://ufldl.stanford.edu/wiki/index.php/Main_Page (昨天刚发