15、神经网络基础与感知器网络详解

神经网络基础与感知器网络详解

1. 神经网络的初始化与训练

1.1 权重矩阵和偏置向量

在神经网络中，单元数组包含权重矩阵和偏置向量，它们的位置与连接属性（如 net.inputConnect 、 net.layerConnect 、 net.biasConnect 中的 1）以及子对象属性（如 net.inputWeights 、 net.layerWeights 、 net.biases 中的结构体）相对应。通过评估以下代码行，可以发现所有的偏置向量和权重矩阵初始都被设置为零：

net.IW{1,1}, net.IW{2,1}, net.IW{2,2} net.LW{3,1}, net.LW{3,2}, net.LW{3,3} net.b{1}, net.b{3}

每个输入权重 net.IW{i,j} 、层权重 net.LW{i,j} 和偏置向量 net.b{i} 的行数等于第 i 层的大小（ net.layers{i}.size ）。输入权重 net.IW{i,j} 的列数等于第 j 个输入的大小（ net.inputs{j}.size ）乘以其延迟值的数量（ length(net.inputWeight