cs231n-----------1、KNN和线性分类、SVM和Softmax损失函数

最新推荐文章于 2022-04-26 18:25:33 发布
最新推荐文章于 2022-04-26 18:25:33 发布
阅读量761 收藏 1
点赞数
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_34514046/article/details/81368793
本文探讨了KNN算法在计算机视觉中的应用，特别是针对CIFAR-10数据集进行图像分类的情况。文中详细介绍了使用L1曼哈顿距离和L2欧式距离作为相似度量，并讨论了噪声对分类的影响及KNN算法的局限性，如维度灾难等问题。此外，还对比了线性分类模型与KNN的不同之处，包括损失函数的选择、优化器的使用等。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

计算机视觉相关课程

使用KNN分类CIFAR-10,32*32像素

L1曼哈顿距离

最近邻分类图片的问题：数据噪声失真

L2：欧式距离

超参数选择

还有就是深度学习中不常用的交叉验证

KNN做图像分类的缺点

KNN的维度灾难

线性分类模型：为每个类别学习到一个模板

线性分类器的弊端

损失函数

多分类SVM的合页损失函数

Softmax损失函数

优化器：梯度下降

深度学习没有特征提取

 

 

深度学习 --- stanford cs231学习笔记一(线性分类器与损失函数)
松下J27录放机
04-29 856
本文是笔者学习Stanford cs231过程中的笔记。
knn算法
things_use的博客
09-26 655
概述 Knn算法是相对来说比较简单的一个算法，也是比价容易理解的。他是一种用距离衡量样本间关系的一种算法，由于样本点的分类是已知的，所以用需要测试的点，找到与其距离相近的k个点（一般用欧式距离），我们就把这个测试的点归类为这k个点中占比重较大的分类。 模型 K近邻算法，没有显式的学习过程，每次运算都要用到所有的点，即计算到所有点的距离，一般是用欧式距离进行衡量。这里和聚类分析算法过程的衡量...
cs231n之KNN-SVM-Softmax-two_layer_net_features总结
Zeking的博客
04-14 626
文章目录训练分类器流程总结具体分类器代码实现框架 class classifer_name(object):def __init__(self,各类参数):**来初始化W，b**def loss(self,X,y,reg) ----------------return loss,grads1，从(__init__中定义的self.params)参数字典中读取W,b等的值,以及输入X的尺寸"""2,...
KNN（最近邻分类）、线性分类、损失函数、优化器
Enochzhu的博客
06-02 2115
KNN（最近邻分类）在图像分类中的应用 如图所示，左侧为待检测图像，右侧为已知图像类别的图像。 将待检测图像与每个已知类别的图像进行L1或L2距离的计算，所得距离越小二者图片相似度越高。将右侧图像按照计算所得的距离由小到大排列，将最近的K（K=1,2,3…）张图像的类别作为待测图像的类别。 两个相同的尺寸的图像可以用两个大小相同的矩阵表述，将两个矩阵对应的元素做差后整体求和就是L1距离，对对应元素做差的平方在整体求和后开根号就是L2距离。L2相较于L1对于坐标系变换旋转的影响不敏感。 线性分类器 如图所
8.2 TensorFlow实现KNN与TensorFlow中的损失函数,优化函数
weixin_30871905的博客
09-13 219
前言 8.1 mnist_soft,TensorFlow构建回归模型中对主要对计算图的概念与公式与计算图的转化进行了介绍,8.2则主要介绍一下TensorFlow中自带的几个算子,与优化函数,损失函数的定义,并以KNN的例子进行整体的串联. 加载数据,依旧使用mnist手写数字的数据 # 导入数据 from tensorflow.contrib.le...
线性分类器-KNN、多类SVM、Softmax
Abner
05-11 3144
本文只是记录一下实现的代码，具体的思想还请看cs231n的课程笔记，其讲解的非常好，智能单元翻译的也很不错。 一、CIFAR-10数据集: 图1 CIFAR-10示例 二、KNN 图2 KNN分类器示例   如图所示，K的取值不同得出来的分类结果也可能是不同的，因此需要对k进行寻参，找出在训练机上最好的k，来进行测试。   求两幅图片的相似性，KNN使用的是距离度量，但
cs231n-Assignment-1 python.
12-06
【标题】"cs231n-Assignment-1 python." 是斯坦福大学计算机视觉课程CS231n的作业一，使用Python3.6语言编写。这个作业涉及到的基础知识点主要涵盖了机器学习，特别是监督学习中的分类算法，如K近邻（KNN）、支持...
CS231n-assignment1-SVM和SoftMax
Esaka
07-11 1053
In[1]: import random import numpy as np from cs231n.data_utils import load_CIFAR10 import matplotlib.pyplot as plt from __future__ import print_function #%matplotlib inline # %matplotlib inline 可以在Ipython编译器里直接使用，功能是可以内嵌绘图，并且可以省略掉plt.show()这一步。 # figsize设
cs231n-assigment1完整代码
03-29
softmax.ipynb中，你将实现softmax函数和交叉熵损失函数，并理解它们在多分类问题中的作用。 Two-Layer Neural Networks是指具有隐藏层的神经网络，这种网络能够学习更复杂的非线性关系。two_layer_net.ipynb涵盖了...
KNN算法
Fleurdalis的博客
04-17 556
跟着Udacity课程学完了无人驾驶第一个term，本来想深入研究一下机器视觉，但是视觉方向不能很好地与工作项目契合，所以决定先巩固一下传统机器学习算法。这个系列基于《机器学习实战》和《统计学系方法》展开，既有理论推导，又有代码实例，这样督促自己形成完备的知识体系。简介  KNN(k-nearest neighbour)，也成为k近邻算法，是一种最简单实用的机器学习分类算法。该算法本质是通过距离函数
常用损失函数
hellocsz的博客
06-09 295
机器学习 之损失函数
weixin_30411997的博客
08-08 542
目录 0、损失函数简介 0.1 对数损失函数 0.2 平方损失函数 0.3 指数损失函数？？含义 0.4 合页损失函数 0.5 其他损失函数 1、KNN损失函数 2、朴素贝叶斯 3、决策树 ...
cs231n assignment1：KNN/SVM/Softmax/Two_layer_net
yestin_L的博客
03-19 686
一、knn:1.knn.py中实现a.分别用双重循环、单重循环和不使用循环实现欧式距离公式 公式：双重循环： def compute_distances_two_loops(self, X): """ Compute the distance between each test point in X and each training point in self.X_tr...
cs231n-svm和softmax
技术成长笔记
02-24 2611
cs231n-svm和softmax 定义了svm和softmax的损失函数,并且结合线性分类器进行讲解,举了几个例子,做了一些对比
机器学习 (五) 多分类问题(KNN & softmax)
qq_39490947的博客
04-18 4719
机器学习多分类问题 机器学习中大部分方法主要解决二分类问题，例如逻辑回归，SVM，决策树等，这些算法当然也可处理多分类问题，但是需要修改处理。 机器学习中处理多分类问题最简单常用的是K近邻(K-Nearest Neighbour) 与softmax。 K-Nearest Neighbour k近邻算法是一种基本分类和回归方法。 K-NN algorithm，是给定一个数据集，当有新的输入实例时，计算该输入实例与给定数据集所有实例的距离(欧氏距离)。然后在给定数据集中找到与该输入实例距离最短的K个实例，这K个
KNN、朴素贝叶斯、LR、kmean、softmax、sigmoid、tanh
weixin_42027200的博客
12-30 508
KNN：如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属于这个类别，其中K通常是不大于20的整数。 其算法的描述为： 1）计算测试数据与各个训练数据之间的距离； 2）按照距离的递增关系进行排序； 3）选取距离最小的K个点； 4）确定前K个点所在类别的出现频率； 5）返回前K个点中出现频率最高的类别作为测试数据的预测分类。 朴素贝叶斯： 算法优缺点： 朴素贝叶斯分类算法，监督学习算法，而且是生成模型，优缺点主要包括： （1）算法优点： 对大数量训练和
k近邻(KNN)模型详细解读 | 统计学习方法学习笔记 | 数据分析 | 机器学习
zxn1996csdn的博客
04-26 2106
人是群居动物，这不仅是因为整个社会运转需要各种各样的人才进行劳动分工和资源交换，还因为人本性上需要认同感，不仅是身份认同，还希望对他的行事风格的，性格的，爱好的，外表的等等方面的认同。
KNN（K近邻算法）
热门推荐
鲨鱼儿的博客
03-25 1万+
一、KNN基本知识 KNN算法 -------- 做分类（二分类、多分类）、也可以做回归 =================================== KNN的三要素： K值的影响： 1. K值过小，可能会导致过拟合 2. K值过大，可能会导致欠拟合 距离的计算方式： 一般使用欧氏距离(欧几里得距离)； 决策函...
深度学习实战：CS231N课程任务解析与实践
资源摘要信息:"CS231N是斯坦福大学开设的一门关于视觉识别的深度学习课程，其中涵盖了卷积神经网络（CNN）的设计和应用。该课程的编程任务被存储在一个名为cs231n_assignments的仓库中，包含了多个与卷积神经网络...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值