我是在14年9月刚读研的时候听到一个说法叫“类人脑算法”很火热,之后搞了很长一段时间相关的蓄水池算法等,但大都没有摸到门路而中途放弃了。
现今看来,还是缺少一些知识背景,也不善于在网络上学习,随时间推移,也逐渐明白这是机器学习的一小部分,并且逐渐发展的名称叫做人工神经网络的算法,如果网络层较多,又会有个别名,叫做深度学习。其中用到的最著名算法是背向传输算法(backpropagation),而这个算法,是我曾经推倒导过的。如今重新捡起,感慨万千。
先讲述一个概念:多层前馈神经网络(Multilayer Feed-Forward Neural Network)
如图所示,有输入层(input layer),隐藏层(hidden layer),输出层(output layer)
一、每层由单元(unit)组成
二、输入层由训练集的实例特征向量传入
三、每个结点都有权重(weight)传入下一层,一层的输出是下一层的输入。
(根据生物学上的定义,每个单元成为神经结点)