神经网络初步认识（一）

Q1：Neural Network 是如何Learning的？

Q2：Neural Network来自于人类大脑的神经结构，所以它的神经元是什么？它的神经元又是如何被连接起来的？

Q3：为什么这种层状结构可以做到智能判断？我们想通过这种层状结构达到什么目的？

（一）从多层感知器（MLP）开始

“神经元”是一个用来装数字的容器，装着一个0到1之间的数字

对于一个像素28x28的手写数字来说，即含有784个神经元，每个神经元中的数字代表数字的灰度值，0代表纯黑，1代表纯白。神经元中的数称之为激活值（Activation），这784个神经元组成了神经网络的第一层，中间有两层隐含层（Hidden layers）负责图像转化为数字的具体操作，最后层的十个神经元分别代表0到9这十个数字，其中的激活值表示系统认为输入的图像对应着哪个数字的可能性。

当人类在识别图像时其实是在组合不同的部件，在理想的情况下我们希望倒数第二层的每个神经元都能恰好对应上一个部件，这样神经网络的最后一层只要学习如何将笔画组合成部件即可。

而每一个笔画部件又可以拆分成更小的边的组合

设计一个第二层神经元来识别出图像中的某块区域是否存在一条边，现在就需要知道这个网络的参数。给第一层和这个神经元相接的每一条线上都赋一个权重值,当你想确认一个地方有没有笔画时，只需要讲周围的权重列为负数，这样当中间的像素亮周围的像素暗时，加权和就能达到最大。把加权和输入线性整流函数ReLU或sigmoid函数

加上一个偏置值（Bias），保证神经元不能随便被激发