Min220的博客

☆1绘制learning curve时需要注意在绘制error_train 与 error_cv随着样本数目的增加而变化的learning curve需要根据当前循环内的样本数目i来求解对应的训练出的theta值，再供以求解J_train与J_cv。同时需要注意的是，J_train处的求解m对应的是i，是样本集的子集，而每一次的J_cv的求解对应的都是整个数据集。意思也就是，当随着样本数量不断增加...

1.灵活应用矩阵运算代替for循环的冗余2.当使用后向传播时 每次运算一个样本 先计算其feedforward 求出J 再求出最后一层的delta差 以此进行后向传播以得到代价函数J关于每一个权重theta的导数3.计算正则化后的代价函数，注意不要加上theta0的平方项4. 利用δ 反求 △时，△(l)=△(l)+δ(l+1)*a(l)注意skep or remove θ0  （可以先求 后sk...