bury_pen

epoches：神经网络的训练次数在神经网络训练时，如果数据集足够小，可将数据一次性全部喂给神经网络，如下：for epoch in range(epoches): training(dataset)但我们常常面临的是比较大的数据集，一次性喂给神经网络时，往往会出现内存/显存不足的现象。此时，我们会把比较大的数据集，分批次喂给神经网络。batch_size：表示一次性喂给神经网络多少...

为什么选择smooth l1?当loss处于[-1,1]之间时，梯度下降同 l2，比较缓慢，不至于在最优值左右来回震荡；当loss处于[−∞,-1]，[1,+∞]，梯度下降同 l1，避免了 l2的梯度爆炸情况；同时，对于噪声也没有l2敏感，增强了抗噪性。...