1. 正向传播
如果有节点:
z=xyz = xyz=xy
两个输入:x, y
一个输出:z
节点内运算规则:xy
2. 反向传播
如果正向传播时有x=50, y= 60,则计算反向传播时
-
求出偏导数:
∂z∂x=y\frac{\partial z}{\partial x}=y∂x∂z=y∂z∂y=x\frac{\partial z}{\partial y}=x∂y∂z=x -
将正向传播的值x=50, y= 60代入分别得到x方向和y方向偏导数的值
x方向偏导数:衡量在正向传播的过程中x的变化对z的影响大小
∂z∂x=60\frac{\partial z}{\partial x}=60∂x∂z=60, ∂z∂y=50\frac{\partial z}{\partial y}=50∂y∂z=50
- 假设反向传播时节点输入的值为E,分别乘以偏导数的值
E∂z∂x=60E,E \frac{\partial z}{\partial x}=60E,E∂x∂z=60E,E∂z∂y=50EE \frac{\partial z}{\partial y}=50EE∂y∂z=50E

991

被折叠的 条评论
为什么被折叠?



