delltdk的专栏

近期阅读学习《神经网络与机器学习》 （Simon Haykin, 2009），一直在想如何把所思所想以及书中内容记录下来做个总结也好，分享也好，交流也好，不要随着时间褪去全都还给时间。朋友推荐开个博客吧，我本来想买个小白板，这样有什么想法就可以立即呈现出来了。这两个都互不干扰，就一起搞吧。    作为ANN的第一篇，今后每天或者每周更新《神经网络》这本书的阅读、翻译、心得总结，给自己个supe

Caffe更新很快，以下内容可能与最新master有出入，不过如果参数名字没有更改应该没有变化。具体可以查看src/caffe/proto/caffe.proto文件内的定义。1. Data输入层  name / type / top / bottom 是所有layer都有的参数域，DATA层与众不同的是包含data_param和transform_param两个域，并且通常包含会有dat

新近研究ICCV2013的一篇文章，《Joint Deep L》

这篇介绍DNN/语音识别的文章，其中有不少细节可以玩味，可以细细读一读。1. 宋謌平解释说，虽然两个术语都包含“深”字，但含义不尽相同，DNN中的“深”指确实存在多层结构的神经网络，它的含义务实；而Deep Learning中的“深”更像一个形容词，与“浅”相对，多少有些抽象或哲学意味。2. 当你认为已经解决一个难题时，总可以让这 个问题变得更困难。或早或晚，你总会发现现有

1. 神经网络介绍    神经网络的原理根本在于对人类大脑行为的神经生物学模拟，这样看的话克隆技术也能算一种了吧。大脑可以看做一台精密、稳定、计算能力超强的计算机，其中的信息处理单元就是神经元（Neuron）。神经元是大脑处理信息的最小单元，它的结构如下图（再次使用了这个图）：Figure 1. 神经元结构    这个图抽象一下，由三部分组成：细胞体（Cell Body）、树突

人体大脑可以被视为一个三阶系统，如图1块状图所示(Arbib,1987)。处于系统核心的是大脑，图中以神经网表征，它不断接收信息、感知并做出恰当的判断。图中有两组箭头。由左指向右的表示信息承载信号在系统中的前向传输。由右指向左的(显示为红色)表示系统中的反馈。感知器官把来自人体或外界环境的刺激转化成电脉冲从而将信息传递到神经网(大脑)。效应器官把神经网产生的电脉冲转化成可识别的响应作为系统输出。

很多人都已经知道：深度学习成为2013年的热词。像Google、微软或者Stanford这样的机构还是有机会得窥一斑，ordinary guys少有接触应用级的DL技术，只是概念上的理解而已。    就我而言理解到的只有两个fold里的三个点：结构上的CNN和一个好深的网络；功能上人工特征环节的得到strutured。其实我把CNN和structured的人工特征环节也是等同的，所以领

人工神经网络，通常称为神经网络，其相关工作是由一个认识引起的：人类大脑以一种完全有别于传统数字计算机的方式进行计算。它是一个高度复杂、非线性、平行计算机（或者信息处理系统），具备自组织结构成分——也就是神经元——的能力，这样它能够以数倍于现存最快计算机的速度完成某种计算（比如模式识别、知觉、电动机控制）。例如可以试想人类的视觉,可以被看做一项信息处理任务。视觉系统的功能就是提供给我们所处周边环境的

最近几天在搞CNN，大家经常用到的是Lecun公布的Handwriten digits数据，在他公布的网页上，数据不是那么方便，所以把这些数据转换了下，全部保存成jpg图片格式了，和大家分享一下。这两天任务较多，虽然继续在翻译和学习的工作，但是没有更新博客内容，过两天把心得体会做个总结，继续搞起。下载地址：http://download.youkuaiyun.com/detail/delltd

图中是我市的标志