leeayu的博客

文章目录Reference简介损失函数可视化最优化梯度计算使用有限差值进行数值计算微分计算梯度梯度下降 Reference https://zhuanlan.zhihu.com/p/21387326?refer=intelligentunit https://zhuanlan.zhihu.com/p/21360434?refer=intelligentunit 简介 最优化是求一个最佳的WWW使得LLL最小，LLL由score function 和 loss function组成。 损失函数可视化

文章目录ReferenceKNN分类的不足线性分类器Score Function将图像看做高维度的点将线性分类器看做模板匹配偏差和权重的合并技巧图像数据预处理损失函数 Loss function多类支持向量机损失 Multiclass Support Vector Machine Loss正则化（Regularization）Softmax分类器SVM和Softmax的比较 Reference https://zhuanlan.zhihu.com/p/20918580?refer=intelligentu

文章目录Reference数据集分类What is cross validationKNN相比1-NN的好处 Reference https://zhuanlan.zhihu.com/p/20900216 数据集分类 training set test set validation set 当dataset数量过少，使用交叉验证的方法来进行超参数tuning。 What is cross validation e.g. 1000 images, 平均分为5组，200 images/group us