normol的博客

前言：对于knn来说，有两个hyperparameters(超参数：choices about the algorithm that we set rather than learn. Very problem-dependent, must try them all out and see what works best.)，其一是怎么选取distance metric，其二是怎么选取k。...

目录  前言knn vs. svmsvm & linear classifierbias trickloss functionregularizationoptimization代码主体导入数据及预处理svm计算loss_function和梯度验证梯度公式是否正确比较运行时间svm训练及预测，结果可视化通过corss-vali...

softmax与svm很类似，经常用来做对比，svm的loss function对wx的输出s使用了hinge function，即max(0,-)，而softmax则是通过softmax function对输出s进行了概率解释，再通过cross entropy计算loss function。将score映射到概率的softmax function：，其中，，j指代 i-th class。...

一般而言，score_matrix=WXW是系数矩阵，X是data_matrix，这儿是学习cs231n的笔记，为了与其代码内w，x的含义保持一致，以下统一使用XW来计算score_matrix。背景是用svm实现图片分类，输入参数如下：N 代表样品个数，D 代表像素个数，C代表一共的种类数。X=(N, D)    注：如果原输入为（500，32，32，3）[即有500个样品（...

数据集下载这是斯坦福课程的作业，根据大纲里面assignment1内的提示，下载好实验所需要的数据集。目录前言：代码主体：part1 数据的导入以及预处理part2 knn训练以及预测具体实现3.1 数据导入3.2 计算dist（三种实现，由易到难，原理相同）3.3 预测通过Cross-validation选取hyperparameters前言：...

这是一篇从笔记里摘录的知识点，因为发现在不同的文献或者文章里，对图片数据规范化、归一化的具体方法都不一样，很是困惑。下面这几种，都是广义上的数据规范化Data normalizationData standarizationData streching总体上来说，standarization与streching都是规范化的选择，只不过他们作用到数据上导致的结果有些许不同，所以有了更为细致...