cs231n笔记（2）——线性分类器

图片分类器训练
最新推荐文章于 2025-03-08 22:47:01 发布
原创 最新推荐文章于 2025-03-08 22:47:01 发布 · 230 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文介绍了一种基于图片的分类器训练方法，通过监督学习对图片进行预处理并打上标签，然后利用线性分类器计算各类别的得分。分数越高表明分类器认为该图片属于此类别的概率越大。

一.

将图片预处理（如监督学习打标签等）后，将矩阵输入函数


X为图片，W为权值，b为偏执项。


二.解释

例子中将图片拉成列向量X与带权矩阵W相乘，加上偏执项b，得出一系列的分数。分数将对应各种分类。

分数高即为分类器人为样本图片为此类概论高，反之低。

三.

我们所说训练即为训练其中的W，在实际操作中，我们将用传统神经网络或者卷积神经网络代替线性分类器。

深度学习 --- stanford cs231学习笔记一(线性分类器与损失函数)
松下J27录放机
04-29 926
本文是笔者学习Stanford cs231过程中的笔记。
（CS231n课程笔记）详解线性分类器
m0_63680328的博客
09-14 1191
根据我们对权重设置的值，对于图像中的某些位置的某些颜色，函数表现出喜好或者厌恶（根据每个权重的符号而定）。那么“船”分类器在蓝色通道上的权重就有很多的正权重（它们的出现提高了“船”分类的分值），而在绿色和红色通道上的权重为负的就比较多（它们的出现降低了“船”分类的分值）。，假设图像只有4个像素（都是黑白像素，这里不考虑RGB通道），有3个分类（红色代表猫，绿色代表狗，蓝色代表船，注意，这里的红、绿和蓝3种颜色仅代表分类，和RGB通道没有关系）。在上面的公式中，假设每个图像数据都被拉长为一个长度为D的。
CS231n学习笔记——线性分类器
wildridder的博客
03-08 478
CS231n学习笔记——线性分类器 CS231n课程使用的是CIFAR-10数据集，其中有60000张32x32的彩色图像，平均分为10个类，其中50000张为训练集，10000张为测试集。 线性分类器（linear classifier）将处理输入的每一张图片（32x32x3=3072个值），把它展开成一个3072x1项的行向量x，所训练的线性分类器的作用就是训练出一个10x3072的矩阵W，使...
cs231n学习记录-理解线性分类器
qq_62861466的博客
08-16 1840
关于cs231n中线性分类器部分的一些学习记录
斯坦福cs231n计算机视觉——线性分类器(中 下)，损失函数和最优化
Sousky的博客
10-26 401
week 2  10/15-10/21 损失函数和最优化：cs231n_2018_lecture03 观看视频 p7 和 p8，了解更多关于线性分类器，损失函数以及优化器的相关知识 学习线性分类笔记中（链接： https://zhuanlan.zhihu.com/p/20945670），线性分类笔记下（链接：https://zhuanlan.zhihu.com/p/21102293）和最优化...
CS231n学习笔记——损失函数
wildridder的博客
03-09 598
CS231n笔记——损失函数 从上一节的线性分类器角度出发，设定一个函数，以分类器的权重W作为输入，定量评估W的好坏，即为损失函数。然后找到一种可行方式，在W的可行域里找到一个最合适的W，使损失函数最小——优化问题 多分类器SVM损失函数 s是分类器的预测分数，yi是这个样本正确分类的标签。图中式子Sj-Syi+1意思是其他标签的分数减去正确标签的分数值加1，然后在这个值和0之间取最大值，作为l...
CS231n课程笔记2.2：线性分类器
silent56_th的博客
12-13 587
CS231n简介详见 CS231n课程笔记1：Introduction。 注：斜体字用于注明作者自己的思考，正确性未经过验证，欢迎指教。课程笔记这篇是CS231n课程笔记2.1：图像分类问题简介&KNN的下篇，两篇一起构成Lecture2的笔记。 上一篇介绍了kNN，那个是无参数的算法，只需要记录训练集即可，所以对于大数据集，kNN的模型很大。 这里先简介线性分类器，线性体现在score的获
CS231n学习笔记——优化、梯度
wildridder的博客
03-11 712
CS231n学习笔记——优化、梯度 多元情况下生成的导数叫做梯度，所以梯度是偏导数组成的向量，有和x一样的形状。梯度中的每个元素表示每个相关方向上函数的斜率。 计算梯度的方法——有限差分 在参数W的每一项做一点微小的改变（0.0001），观察loss的变化情况，然后计算出针对这一项的偏导数。以此类推直到算出整个梯度。但是在神经元数量很大时，这种数值导数的梯度计算方法非常慢，所以在应用中优先使用解...
cs231n笔记
2403_87090261的博客
03-08 950
​ 在上面的loss计算中会出现一个问题就是对于同一组的数据，相同的loss可能会出现多种的W符合要求，在一些极端的情况下甚至可能出现存在W使得loss = 0 ，但是这是在训练集上的数据而非在所有的应用环境下侧得到的。​ 在这么多的W上，我们希望W在每一个参数上的权重尽可能小，这样的话在相同loss的情况下，更多的像素点参数会被纳入计算分类的过程中而不是在几个像素点上的参数非常大，导致他的鲁棒性不足。所以这一段代码的作用是找出所有在循环中同类的训练集的行，并返回其的索引值。
CS231n课程笔记翻译：线性分类笔记1
08-03
在CS231n课程中，线性分类器被用作图像分类任务的基础，特别是在图像识别问题上，如CIFAR-10数据集。线性分类器的核心是线性评分函数，它将原始图像像素值映射到各个类别的得分。 【线性评分函数阐明】 线性评分...
对深度学习训练模型过程的理解
chenlufei_i的博客
12-10 8213
一.数据预处理 二.将数据输入神经网络（每个神经元先输入值加权累加再输入激活函数作为该神经元的输出值）正向传播，得到得分 三.将“得分”输入误差函数（正则化惩罚，防止过度拟合），与期待值比较得到误差，多个则为和，通过误差判断识别程度（损失值越小越好） 四.通过反向传播（反向求导，误差函数和神经网络中每个激活函数都要求，最终目的是使误差最小）来确定梯度向量 五.最后通过梯度向量来调整每一个权
深度学习（3）——离散回归，最小二乘法
chenlufei_i的博客
12-24 4975
监督学习中，如果预测的变量是离散的，我们称其为分类（svm等，得出的是类，并不是连续的数，所以是离散的），如果预测的变量是连续的，我们称其为回归。在回归分析中， 对于一元线性回归模型, 假设从总体中获取了n组观察值（X1，Y1），（X2，Y2）， …，（Xn，Yn）。对于平面中的这n个点，可以使用无数条曲线来拟合。要求样本回归函数尽可能好地拟合这组值。综合起来看，这条直线处于样本数据的中心位
cs231n笔记（6）--反向求导
chenlufei_i的博客
12-10 2664
一.理解       反向求导在BP算法中也叫梯度下降，我对其的理解就是为了让最后的损失函数损失最小化（即识别误差最小），如何让最后误差最小呢？由于导数在几何上的意义是函数上升或者下降的趋势，那么我们可以把整个人工神经网络+损失函数的模型看成是一步一步的函数叠加的结果，输入为图像，输出为损失。那么每一个神经元（激活函数）以及之后损失函数都会对最后的误差结果产生影响。反向求偏导后（链式法则，每一步
cs231n笔记（1）——-KNN算法
chenlufei_i的博客
12-08 661
图像分类：KNN算法（K—最近邻算法） 一.定义 定义：KNN是通过测量不同特征值之间的距离进行分类。它的的思路是：如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属于这个类别。KNN算法中，所选择的邻居都是已经正确分类的对象。（
cs231n笔记（4）——正则化
chenlufei_i的博客
12-10 552
结构风险=经验风险+正则项 经验风险=为损失函数的数学变化 通常可以表示成如下式子： 其中，前面的均值函数表示的是经验风险函数，L代表的是损失函数，后面的ΦΦ是正则化项（regularizer）或者叫惩罚项（penalty term），它可以是L1，也可以是L2，或者其他的正则函数。整个式子表示的意思是找到使目标函数最小时的θθ值。 5.随机失活         一. ...
cs231n笔记（3）—误差函数
chenlufei_i的博客
12-08 538
一. 损失函数有时也叫代价函数或者误差函数。 个人理解就是将样本图片输入网络后会得到一个得分， 再将得分输入损失函数会得到一个损失， 损失越低便认为识别效果越好，反之效果越差。 后面会根据损失反向求导训练权值W，直到损失趋于0，或不再下降为止。 二. 1.多类SVM损失（支持向量机）： SVM损失计算了所有不正确的例子，将所有不正确的类别的评分，与正确类别的评分之差加1(可以不
cs231n笔记（5）--传统神经网络，激活函数
chenlufei_i的博客
12-10 323
一.神经元    为了描述神经网络，我们先从神经元讲起，这个神经网络仅由一个“神经元”构成，以下即是这个“神经元”的图示： 具体过程是将Xn加权输入，再求和然后输入到“圆圈”中，圆圈实际上是激活函数，然后再输出，便完成了神经网络中一个神经元的计算过程。 二.激活函数 1.激活函数的作用是将神经网络里的线性变化转换成非线性变换。之前可以看出无论神经网络设计多么复杂，层
STM32+MAX7219数码管模块显示程序 SPI接口
最新发布
12-02
提供了基于STM32F4xx系列的MAX7219数码管模块显示程序，通过SPI串行总线进行通信，使用库函数进行编程。经过实际测试，该程序能够正常驱动数码管进行显示。 特点 基于STM32F4xx系列MCU 使用SPI串行总线通信 采用库函数编程 实测能正常驱动MAX7219数码管模块显示
CS231n课程笔记系列翻译整理
- 5_CS231n课程笔记翻译：线性分类笔记（下）.pdf，可能是在讨论线性分类器的原理及其局限性，并介绍如何通过神经网络来克服这些限制。 - 7_CS231n课程笔记翻译：最优化笔记（下）.pdf，可能包含更多关于优化方法的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值