bury_的博客

知乎官方笔记翻译神经网络下 神经元被激活是什么意思？ 输入传入神经元，计算得到的结果若高于阈值则神经元有了输出，如果神经元一直没有输出，就不会产生梯度更新。 全连接层是什么？ 对于普通神经网络，最普通的层的类型是全连接层（fully-connected layer）。全连接层中的神经元与其前后两层的神经元是完全成对连接的，但是在同一个全连接层内的神经元之间没有连接。 当我们说N层神经网络的

根据训练数据计算损失和权重矩阵W的梯度的函数，svm_loss_naive(W, X, y, reg) 关于损失函数L以及在不同模型上的得分向量S的理解，参见了知乎上翻译的官方课程笔记，知乎cs231n官方讲义翻译 python代码填补：def svm_loss_naive(W, X, y, reg): """ Structured SVM loss function, naive

交叉验证测试结果：current training hidden_size: 400 current training learning_rate: 0.003 current training reg: 0.02 current training batch_size: 500 iteration 0 / 1200: loss 2.302679 iteration 100 / 1200: loss