神经网络基础汇总

本文总结了神经网络需要用到的基础知识。由于很多博文已经写的非常好了，我在这里也不必抄一遍，故直接送上链接（如有侵权，请联系删除，感谢！）。

1. 激活函数详解：https://zhuanlan.zhihu.com/p/32610035
2. 损失函数详解：
   1. 交叉熵损失函数：https://zhuanlan.zhihu.com/p/35709485
   2. MSE损失函数：https://zhuanlan.zhihu.com/p/35707643
3. RNN网络
   1. 标准RNN网络forward和backward推导：https://www.cnblogs.com/pinard/p/6509630.html