深度学习笔记2

深度学习的三个步骤

第一步：定义一个neural network

定义一个函数，这个函数实际上就是一个neural network，（简单理解为神经网络中的一个神经元，我们通过不同的方法连接这些neural network，我们就得到了不同的结构）
常见的连接方式有：Fully connect feedforward network（全连接前馈神经网络）

举个例子，左上角第一个神经元有自己的weight和bias，通过计算得到11+（-1）（-2）+1 = 4
再将4代入sigmoid函数中得到0.98
这个过程中，一个neural network我们就可以看作是一个function，重复这个过程，我们就可以得到输出是一个向量
最终模型输入一个向量，然后得到一个向量

每一个圆形就是一个neuron（神经元），每一列我们叫一个Layer，一个layer由若干个neuron组成，因为相邻的Layer和Layer之间所有的neuron两两之间都有连接，所以叫fully connected network，又因为从layer1到layer2一直到layern，从后往前传，所以叫feedforward，组合就叫 fully connected feedforward network
input和output不算一个layer，因为不是由neuron组成的，整个network需要一个input，input是一个向量vector
对layer one的每一个neuron来说，每个neu