训练过程

1、准备样本

在一个复杂的网络中，我们准备一定数量的用来训练的 x 向量，可以是文本，可以是 图片，可以是音频，甚至可以是音视频结合的更为复杂的训练样本，当然只要是输入到网 络中作为训练样本的一定是向量化的。

2、清洗处理

在放人网络进行训练之前，需要进行一定处理，处理的目的是为了帮助网络更高效、更准确地做好分类。

3、正式训练

根据网络中两个神经元的表达式描述：
$z_h=w_{h}x+b_h,y_h=\frac{1}{1+e^{-z_h}}$
$z_o=w_o{y}_h+b_o,y_o=\frac{1}{1+e^{-z_o}}$
$x_1$一旦代入后，就会是这样一个映射关系：
$z_{h1}=w_h{x}_1+b_h,y_{h1}=\frac{1}{1+e^{-z_{h1}}}$
$z_{o1}=w_o{y}_{h1}+b_o,y_{o1}=\frac{1}{1+e^{-z_{o1}}}$
由$x_1,y_1$带来的误差值可以定义了$Los{s}_1=(y_{o1}-y_1{)}^2$
由10个训练数据共同带来的误差值就变成了：$$Loss=\sum _{i=1}^{10}(y_{o1}-y_1{)}^2$$也就是需要更新以下四个表达式：
$(w_h{)}^n=(w_h{)}^{n-1}-\eta \frac{\partial Loss}{\partial w_h}$
$(b_h{)}^n=(b_h{)}^{n-1}-\eta \frac{\partial Loss}{\partial b_h}$
$(w_o{)}^n=(w_o{)}^{n-1}-\eta \frac{\partial Loss}{\partial w_o}$
$(b_o{)}^n=(b_o{)}^{n-1}-\eta \frac{\partial Loss}{\partial b_o}$
首先将
$$Loss=\sum _{i=1}^{10}(y_{o1}-y_1{)}^2⟹Loss=\frac{1}{2}\sum _{i=1}^{10}(y_{o1}-y_1{)}^2$$