cs231n: How to Train a Neuron Network 如何训练神经网络
CS231N第六第七课时的一些笔记,如何训练神经网络是一个比较琐碎的事情,所以整理了一下,以后训练Neuron Network的时候可以看一下
Activation Functions
ReLu(good)
ELU
leaky ReLu
no saturated on +region
converges much faster 差不多6倍的速度,因为梯度不会被杀死
easy comput
原创
2018-02-06 11:30:59 ·
353 阅读 ·
0 评论