CS231n学习笔记
关注
分享
扫一扫
基于CS231n notes进行学习、整理和翻译。有时也会添加一些自己的理解~
RaymondLove~
这个作者很懒，什么都没留下…
展开
-
目标检测 (Object Detection) （四）： Faster R-CNN
Faster R-CNN是He Kaiming等人于2015年在NIPS发表的一篇论文，是R-CNN目标检测系列的第三次迭代。提到Faster R-CNN，不得不简单介绍一下它的早期版本：R-CNN和Fast R-CNN。接下来，我们首先对R-CNN，Fast R-CNN，Faster R-CNN进行简单介绍和对比，然后再详细介绍Faster R-CNN。目录1.R-CNN，Fas...原创 2019-04-15 15:35:35 · 1043 阅读 · 0 评论 -
图像特征之（一）: 方向梯度直方图 Histogram of oriented gradient (HOG)
在cs231n的Assignment1中，最后一个练习涉及道路HOG特征，故而整理一下HOG特征。HOG特征方向梯度直方图（Histogram of Oriented Gradient, HOG）特征是一种在计算机视觉和图像处理中用来进行物体检测的特征描述子。它通过计算和统计图像局部区域的梯度方向直方图来构成特征。HOG+SVM被广泛的用于行人检测的应用当中。提出HOG特征的原始论文...原创 2019-02-11 22:50:47 · 3153 阅读 · 0 评论 -
目标检测 (Object Detection) （一）： 评估标准 （mAP，IOU，NMS，FPS）
目标检测算法（一）：评估标准目标检测是计算机视觉领域的基本且重要的问题之一。一般目标检测（generic object detection）的目标是根据大量预定义的类别在自然图像中确定目标实例的位置与类别。本文主要介绍目标检测的评估标准。常用的目标检测的评估标准包括：平均精度均值mAP（mean average precision）、交并比IoU（Intersection over Uni...原创 2019-04-01 13:08:56 · 10341 阅读 · 4 评论 -
2012年ImageNet ILSVRC获胜论文学习 - AlexNet
AlexNetAlexNet是2012年的 ImageNet ILSVRC中获得冠军，识别率远远超过第二名（top 5 错误了16%，第二名为26%）。链接：http://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf1. 网络架构图AlexN...原创 2019-03-05 22:42:35 · 5183 阅读 · 0 评论 -
2014年ImageNet ILSVRC亚军论文学习 - VGGNet
VGGNetVGGNet: 2014 ILSVRC的亚军是VGGNet。VGGNet的贡献是：证明了深度对于卷积网络性能的重要性。他们最优的网络是16层的卷积/全连接层组成的结构，从输入到输出层结构相同，只使用3x3卷积核2x2池化。预训练模型可以在caffe上直接使用。其缺点是计算非常耗资源和内存，参数数量大约为140 Million。大部分的参数位于第一个全连接层，后来发现可以移去这些...原创 2019-03-07 21:31:59 · 1146 阅读 · 0 评论 -
2014年ImageNet ILSVRC冠军论文学习 - GoogleNet
GoogleNetGoogleNet原文链接https://arxiv.org/pdf/1409.4842.pdf 改进的GoogleNet： Inception-v2:https://arxiv.org/abs/1502.03167 Inception-v3:https://arxiv.org/abs/1512.00567 Inception-v4:https://arx...原创 2019-03-14 23:09:37 · 1497 阅读 · 0 评论 -
2015年ImageNet ILSVRC冠军论文学习 - ResNet
ResNetResidual Network（ResNet）获得了2015 ILSVRC的冠军。它的特点是大量使用了Identify mapping（一致变换），使得网络更容易学习。ResNet在网络的末端使用avg pool代替前两个全连接层。1. 基本思想从AlexNet到GoogleNet，VGGNet，可以看到越深的网络表达能力越好。但是，随着网络的加深，我们观察到模型的准确性...原创 2019-03-18 22:30:42 · 2263 阅读 · 0 评论 -
cs231n Assignment#2 - Global name ‘col2im_6d_cython‘ is not defined（Mac报错）
在做CS231n的Assignment #2时，需要使用Cython实现Fast layers，虽然按照提示在cs231n下运行了如下命令：python setup.py build_ext--inplace但是运行时仍报错：Global name 'col2im_6d_cython' is not defined针对该问题的解决方案为：1. 将cs231n目录下，除了im2co...原创 2019-03-11 20:36:18 · 1199 阅读 · 0 评论 -
cs231n 学习笔记（8）- 迁移学习和fine-tuning CNN
目录1. Transfer learning2. Additional References1. Transfer learning在实践中，由于很少有足够大的数据集，所以很少有人会选择从头开始训练网络。常见的方法是：在一个非常大的数据集上预训练一个CNN（例如：ImageNet，包含1.2 million的图像，1000个类别），再使用这个预训练的网络作为初始化网络后进行微调、或...原创 2019-03-03 21:46:48 · 738 阅读 · 0 评论 -
cs231n 学习笔记（7）- 理解和可视化CNN
目录1. Visualizing what ConvNets learn2. Visualizing the activation and first-layer weights可视化激活值和第一层权重2.1 Layer Activations2.2 Conv/FC Filters3. Retrieving images that maximally activate a n...原创 2019-03-03 21:02:02 · 1069 阅读 · 0 评论 -
cs231n 学习笔记（6）- 卷积神经网络（CNNs/ConvNets）
目录1. Architecture Overview2. ConvNets layers2.1 Layers used to build ConvNets2.2 Convolutional layer2.2.1 Overview2.3 Pooling layer2.4Normalization layer2.5 Full-connected layer2.6 ...原创 2019-03-02 15:32:17 · 2008 阅读 · 0 评论 -
cs231n 学习笔记（5）- 神经网络-3：Learning and Evaluation
目录1. Gradient checks2. Sanity Checks - Before learning3. Babysitting the learning process3.1 Loss function3.2Train/Val accuracy3.3 Ratio of weights:updates 权重的更新幅度3.4Activation / Gradi...原创 2019-02-25 10:10:16 · 1335 阅读 · 0 评论 -
cs231n 学习笔记（5）- 神经网络-2：Setting up data and loss
上节介绍了神经元模型和神经网络。其中神经元就是点积计算后输入到一个非线性函数；将多个神经元按层叠加就构成了神经网络。本节将介绍数据预处理，权重，初始化和损失函数。1. Data Preprocessing设输入数据为大小为的矩阵，代表元素的个数，代表特征维度。Mean Substraction减去均值/zero-centered中心化最常用的预处理方法就是对每个特征减去该特征的均值，...原创 2019-02-21 21:58:44 · 952 阅读 · 0 评论 -
cs231n 学习笔记（5）- 神经网络-1：Setting up Architecture
目录1.Quick Intro without brain analogies2. Modeling one neuron2.1 Biological motivation and connections2.2 Single Neuron as a linear classifier2.3 Commonly used activation function3. Neural...原创 2019-02-19 22:41:36 · 593 阅读 · 0 评论 -
cs231n 学习笔记（4）- 反向传播
1. Introduction本节主要介绍反向传播的直观理解：使用链式法则进行递归求导的梯度计算方式。给定一个函数，其中是输入变量，我们要计算函数关于的梯度，即：。可以是损失函数。我们知道，是关于输入样本和权重与偏置的函数，其中是固定不变的，和是算法要去学习和确定的。通过计算损失函数关于和的导数，可以迭代更新权重和偏置。2. Simple expressions and inter...原创 2019-02-17 15:00:18 · 418 阅读 · 0 评论 -
cs231n 学习笔记（3）- 优化：SGD随机梯度下降
目录1. Introduction2. 可视化Loss function3. 优化3.1 Strategy#1: 随机搜索3.2Strategy#2: 随机局部搜索3.3Strategy#3: 沿着梯度方向搜索4. 梯度计算4.1 数值法4.2 分析法5. 梯度下降6. 总结1. Introduction上一节学习了图像分类中的两个重要概念：...原创 2019-02-14 21:40:22 · 702 阅读 · 0 评论 -
cs231n 学习笔记（2）- 线性分类器、Multiclass SVM与Softmax
1. 引言上节课讲了什么是图像分类，介绍了一种简单的监督算法KNN。KNN的在图像分类上的效果并不好，后续我们会介绍神经网络和卷积神经网络。神经网络的方法涉及到两个重要的组成：score function（评分函数）和loss function（损失函数）。评分函数Score function：将原始数据映射成类别得分。损失函数Loss function：评估预测的类别得分与真实标签之...原创 2019-02-13 22:51:44 · 1397 阅读 · 0 评论 -
cs231n 学习笔记（1）- 计算机视觉和图像分类
目录1. 图像分类2. KNN3. Validation sets for Hyperparameter tuning4. Cross Validation5. KNN实践总结1. 图像分类图像分类就是对给定输入图像打上标签标记所属类别，其中标签集合是固定的。图像分类问题是计算机视觉的核心，其他问题如目标检测、分割等最终都可以看成图像识别问题。图像分类问题存在...原创 2019-02-12 11:08:33 · 477 阅读 · 0 评论