自然语言处理学习笔记

4月9日

神经网络反向传播法：

神经网络包含：输入层、隐含层、输出层

第一步：前向传播

输入层--->隐含层 隐含层--->输出层：先求神经元的加权和，对加权和使用sigmoid函数求解输出值

第二步：反向传播

计算总误差:计算期望值与输出值的差的平方和，与方差计算公式类似，只是每个期望值不同

更新权重（隐含层-->输出层）：利用总误差对权重求偏导

更新权重（隐含层-->隐含层）：方法同上

最后通过不停的迭代，将总误差控制在一定的数值之内，最后完成。

卷积神经网络（CNN）：