deep learning
关注
分享
扫一扫
文章平均质量分 83
Yongqiang Cheng
既然选择了远方 便只顾风雨兼程 - 永强
展开
-
动手学深度学习 - 3.8. 多层感知机
多层感知机我们已经介绍了包括线性回归和softmax回归在内的单层神经网络。然而深度学习主要关注多层模型。在本节中，我们将以多层感知机(multilayer perceptron，MLP)为例，介绍多层神经网络的概念。隐藏层多层感知机在单层神经网络的基础上引入了一到多个隐藏层(hidden layer)。隐藏层位于输入层和输出层之间。图3.3展示了一个多层感知机的神经网络图。在图3.3所...转载 2019-06-15 23:59:11 · 505 阅读 · 0 评论 -
动手学深度学习 - 5.2. 填充和步幅
动手学深度学习 - 5.2. 填充和步幅动手学深度学习 - Dive into Deep LearningAston Zhang, Zachary C. Lipton, Mu Li, and Alexander J. Smolahttps://zh.d2l.ai/5.2. 填充和步幅在上一节的例子里，我们使用高和宽为 3 的输入与高和宽为 2 的卷积核得到高和宽为 2 的输出。一般来说，...转载 2019-06-15 22:04:44 · 1354 阅读 · 0 评论 -
动手学深度学习 - 5.1. 二维卷积层
动手学深度学习 - 5.1. 二维卷积层动手学深度学习 - Dive into Deep LearningAston Zhang, Zachary C. Lipton, Mu Li, and Alexander J. Smolahttps://zh.d2l.ai/5.1. 二维卷积层卷积神经网络 (convolutional neural network) 是含有卷积层 (convolu...转载 2019-06-15 17:17:42 · 1549 阅读 · 0 评论 -
数值稳定性和模型初始化
数值稳定性和模型初始化理解了正向传播与反向传播以后，我们来讨论一下深度学习模型的数值稳定性问题以及模型参数的初始化方法。深度模型有关数值稳定性的典型问题是衰减（vanishing）和爆炸（explosion）。衰减和爆炸当神经网络的层数较多时，模型的数值稳定性容易变差。假设一个层数为LLL的多层感知机的第lll层H(l)\boldsymbol{H}^{(l)}H(l)的权重参数为W(l)\b...转载 2019-06-14 23:32:11 · 838 阅读 · 0 评论 -
动手学深度学习 - 3.11. 模型选择、欠拟合和过拟合
动手学深度学习 - 3.11. 模型选择、欠拟合和过拟合动手学深度学习 - Dive into Deep LearningAston Zhang, Zachary C. Lipton, Mu Li, and Alexander J. Smolahttps://zh.d2l.ai/3.11. 模型选择、欠拟合和过拟合在基于 Fashion-MNIST 数据集的实验中，我们评价了机器学习模型...转载 2019-06-14 23:31:20 · 1082 阅读 · 0 评论 -
权重衰减
权重衰减上一节中我们观察了过拟合现象，即模型的训练误差远小于它在测试集上的误差。虽然增大训练数据集可能会减轻过拟合，但是获取额外的训练数据往往代价高昂。本节介绍应对过拟合问题的常用方法：权重衰减（weight decay）。方法权重衰减等价于L2L_2L2范数正则化（regularization）。正则化通过为模型损失函数添加惩罚项使学出的模型参数值较小，是应对过拟合的常用手段。我们先描述...转载 2019-06-14 23:30:51 · 1869 阅读 · 1 评论 -
丢弃法
丢弃法除了前一节介绍的权重衰减以外，深度学习模型常常使用丢弃法（dropout）[1] 来应对过拟合问题。丢弃法有一些不同的变体。本节中提到的丢弃法特指倒置丢弃法（inverted dropout）。方法回忆一下，“多层感知机”一节的图3.3描述了一个单隐藏层的多层感知机。其中输入个数为4，隐藏单元个数为5，且隐藏单元hih_ihi（i=1,…,5i=1, \ldots, 5i=1,…,5...转载 2019-06-14 23:30:18 · 892 阅读 · 0 评论 -
正向传播、反向传播和计算图
正向传播、反向传播和计算图前面几节里我们使用了小批量随机梯度下降的优化算法来训练模型。在实现中，我们只提供了模型的正向传播（forward propagation）的计算，即对输入计算模型输出，然后通过autograd模块来调用系统自动生成的backward函数计算梯度。基于反向传播（back-propagation）算法的自动求梯度极大简化了深度学习模型训练算法的实现。本节我们将使用数学和计算...转载 2019-06-14 23:29:46 · 3250 阅读 · 0 评论 -
动手学深度学习 - 3.4. softmax 回归
动手学深度学习 - 3.4. softmax 回归动手学深度学习 - Dive into Deep LearningAston Zhang, Zachary C. Lipton, Mu Li, and Alexander J. Smolahttps://zh.d2l.ai/3.4. softmax 回归线性回归模型适用于输出为连续值的情景。在另一类情景中，模型输出可以是一个像图像类别这样...转载 2019-06-14 23:27:54 · 584 阅读 · 0 评论 -
动手学深度学习 - 11.7. d2lzh 包索引
动手学深度学习 - 11.7. d2lzh 包索引动手学深度学习 - Dive into Deep LearningAston Zhang, Zachary C. Lipton, Mu Li, and Alexander J. Smolahttps://zh.d2l.ai/(https://zh.d2l.ai/)11.7. d2lzh 包索引函数、类等名称，定义所在章节。bbox_t...转载 2019-06-14 19:35:20 · 3353 阅读 · 4 评论 -
动手学深度学习 - 3.1 线性回归
动手学深度学习 - 3.1 线性回归动手学深度学习 - Dive into Deep LearningAston Zhang, Zachary C. Lipton, Mu Li, and Alexander J. Smolahttps://zh.d2l.ai/3.1. 线性回归线性回归输出是一个连续值，因此适用于回归问题。回归问题在实际中很常见，例如预测房屋价格、气温、销售额等连续值的问...转载 2019-06-12 20:20:50 · 1365 阅读 · 0 评论 -
Jaccard index - Intersection over Union - Jaccard similarity coefficient - IoU - 交并比 (六)
Jaccard index - Intersection over Union - Jaccardsimilarity coefficient - IoU - 交并比 (六)The Jaccard index, also known asIntersection over Union and the Jaccard similarity coefficient (originallycoine...翻译 2018-07-12 19:56:18 · 1787 阅读 · 0 评论 -
卷积网络
卷积网络 多层感知器本身存在结构布局问题。我们描述一类特定的通称为卷积网络的多层感知器，它对于模式分类非常适合。这些网络的提出所隐含的思想受到了神经生物学的启发，可以回溯到 Hubel and Wiesel (1962, 1977) 的开创性研究，该研究是关于猫的视觉皮质上局部传感和方位选择神经元的。 一个卷积网络是为识别二维形状而特殊设计的一个多层感知器，这种二...转载 2018-05-02 19:42:35 · 577 阅读 · 0 评论 -
怎样在神经网络设计中加入先验信息 - 权值共享
怎样在神经网络设计中加入先验信息 -权值共享 当然，怎样在神经网络设计中建立先验信息，以此建立一种特定的网络结构，是必须考虑的重要问题。遗憾的是，现在还没有一种有效的规则来实现这一目的；目前我们更多的是通过某些特别的过程来实现，并已知可以产生一些有用的结果。特别是我们使用下而两种技术的结合：1. 通过使用称为接收域 (receptive field) 的局部连接，限制网络结构...转载 2018-04-22 10:14:11 · 4608 阅读 · 0 评论 -
神经网络的结构
神经网络的结构 神经网络中神经元的构造方式与用于训练网络的学习算法有着紧密的联系。我们可以说用于神经网络设计的学习算法 (规则) 是被构造的。 一般说来，我们可以区分三种基本不同的网络结构。单层前馈网络 在分层网络中，神经元以层的形式组织。在最简单的分层网络中，源节点构成输入层，直接投射到神经元输出层 (计算节点) 上，反之则不然。也就是说，这个网...转载 2018-04-22 09:12:43 · 2343 阅读 · 0 评论 -
多层感知器、隐藏神经元和信用分配
多层感知器、隐藏神经元和信用分配 图 4.1 表示一个具有两个隐藏层和一个输出层的多层感知器的结构图。为了构筑多层感知器一般形式的描述平台，这里说的网络是全连接的 (fully connected)。这就是说在任意层上的一个神经元与它之前的层上的所有节点 / 神经元都连接起来。信号一层接一层地逐步流过，方向是向前的，从左到右。 图 4.2 描绘了多层感知器的一部分...转载 2018-04-10 21:46:44 · 2898 阅读 · 0 评论 -
Intersection over Union - IoU - 交并比 (4)
Intersection over Union - IoU - 交并比 (4)交并比 (Intersection-over-Union，IoU)，predicted bounding box 与 ground-truth bounding box 的交叠率，即它们的交集与并集的比值。一般情况下，0.5 是阈值，用来判断预测的边界框是否正确。如果你希望更严格一点，你可以将 IoU 定得更高，比如说大于 0.6 或者更大的数字。IoU 越高，边界框越精确。...翻译 2017-12-09 21:21:09 · 1589 阅读 · 0 评论 -
Cognitive Medium
Cognitive Mediumhttp://cognitivemedium.com/cognitive ['kɒɡnətɪv]：adj. 认知的，感知的，认识的翻译 2017-11-21 15:43:10 · 415 阅读 · 0 评论 -
Convolutional Neural Network
Convolutional Neural Network1. Convolutional Neural Network 中的各个 layer 提取什么样的特征？Visualizing and Understanding Convolutional Networks:The projections from each layer show the hierarchical nature of ...原创 2019-01-16 19:16:35 · 2942 阅读 · 0 评论 -
A guide to convolution arithmetic for deep learning - 深度学习卷积运算指南
A guide to convolution arithmetic for deep learning - 深度学习卷积运算指南Vincent Dumoulin, Francesco VisinMILA, Université de MontréalAIRLab, Politecnico di MilanoThe Université de Montréal (UdeM) is a Fre...翻译 2018-12-06 19:28:03 · 2966 阅读 · 2 评论 -
1 万张车辆图像及标注数据 - Vehicle_Model_Color_Dataset_10000 - 解析
1 万张车辆图像及标注数据 - Vehicle_Model_Color_Dataset_10000 - 解析1 数据产品详情https://blog.youkuaiyun.com/chengyq116/article/details/853457992 Vehicle_Model_Color_Dataset_10000_data_preprocessing/usr/bin/python3.5##...原创 2018-12-29 22:22:35 · 4514 阅读 · 0 评论 -
Visualizing and Understanding Convolutional Networks - 可视化和理解卷积网络 - 看懂卷积网络
Visualizing and Understanding Convolutional Networks可视化和理解卷积网络 - 看懂卷积网络Matthew D Zeiler, Rob FergusDept. of Computer Science, Courant Institute, New York Universitydepartment [dɪ'pɑːtm(ə)nt]，dept....翻译 2019-01-04 19:15:50 · 2779 阅读 · 1 评论 -
智能与计算 - 李航 - 阅读摘要
智能与计算 - 李航 - 阅读摘要原文阅读于中国计算机学会通讯摘要：本文对计算与思考 (或智能) 这个话题进行简单综述与讨论。人工智能的目标是要构建能够“思考”和“行动”的机器。关键词：脑科学 认知科学 心智计算理论 体验认知理论前言1950 年，图灵发表论文 《计算机器与智能》 (Computing machinery and intelligence)，提出著名的图灵测试。这段时间里...转载 2019-01-21 20:18:44 · 786 阅读 · 0 评论 -
how to replicate the activity recognition experiments ?
how to replicate the activity recognition experiments in the paper Long-term Recurrent Convolutional Networks for Visual Recognition and Descriptionhttps://people.eecs.berkeley.edu/~lisa_anne/LRCN_v转载 2018-01-12 19:58:17 · 559 阅读 · 0 评论 -
CNRPark+EXT - Dataset Download
CNRPark+EXT - Dataset Downloadhttp://www.cnrpark.it/ You can download CNRPark+EXT using the following links:CNRPark-Patches-150x150.zip (36.6 MB)http://www.cnrpark.it/dataset/CNRPark-Patches-...翻译 2018-07-31 19:06:59 · 1006 阅读 · 5 评论 -
CNRPark+EXT - A Dataset for Visual Occupancy Detection of Parking Lots
CNRPark+EXT - A Dataset for Visual Occupancy Detection of Parking LotsGiuseppe Amato, Fabio Carrara, Fabrizio Falchi, Claudio Gennaro, Claudio Vairo http://www.cnrpark.it/https://www.youtube....翻译 2018-07-31 18:45:40 · 1093 阅读 · 0 评论 -
Microsoft COCO: Common Objects in Context - COCO API - MASK API
Microsoft COCO: Common Objects in Context - COCO API - MASK APIhttp://cocodataset.org/#homehttp://cocodataset.org/#downloadHome -> Dataset -> Download1. COCO APIThe COCO API assists in loading, ...转载 2018-05-28 22:04:05 · 1221 阅读 · 0 评论 -
批量学习和在线学习
批量学习和在线学习 考虑具有一个由源节点组成的输人层、一个或多个隐藏层、由一个或者多个神经元组成的输出层的多层感知器，如图 4.1 所示。令J = \left \{ x(n), d(n)\right \}_{n=1}^{N}(4.1) 用于训练网络的训练样本采用有监督方式。令 yj(n) 记为在输出层第 j 个神经元输出产生的函数信号，这一函数信...转载 2018-05-01 22:48:45 · 1840 阅读 · 0 评论 -
目标检测数据集标注工具 - od-annotation
目标检测数据集标注工具 - od-annotation hzylmf/od-annotationhttps://github.com/hzylmf/od-annotation 采用 python-flask 框架开发，基于 B/S 方式交互，支持多人同时标注。1. 特点 B/S方式交互 支持多人同时标注（可分配不同标注人员的标注范围，或不同人...转载 2018-03-11 16:44:27 · 3130 阅读 · 0 评论 -
yolo - train_detector - Resizing
yolo - train_detector - Resizing/home/strong/eclipse-workspace/darknet_0921/examples/detector.cvoid train_detector(char *datacfg, char *cfgfile, char *weightfile, int *gpus, int ngpus, int clear){}p...原创 2018-02-11 21:22:20 · 1434 阅读 · 2 评论 -
Long-term Recurrent Convolutional Networks
Long-term Recurrent Convolutional Networkshttp://jeffdonahue.com/lrcn/ This is the project page for Long-term Recurrent Convolutional Networks (LRCN), a class of models that unifies the stat...转载 2018-01-01 00:07:51 · 1007 阅读 · 0 评论 -
Multiple Object Tracking Benchmark
Multiple Object Tracking Benchmarkhttps://motchallenge.net/1. Welcome to MOTChallenge: The Multiple Object Tracking Benchmark! In the recent past, the computer vision community has r...转载 2017-12-03 19:46:57 · 844 阅读 · 0 评论 -
Amazon Rekognition - 面部分析
Amazon Rekognition - 面部分析转载 2017-12-03 19:59:00 · 705 阅读 · 0 评论 -
Amazon Rekognition - 图像审核
Amazon Rekognition - 图像审核转载 2017-12-03 18:31:46 · 1132 阅读 · 0 评论 -
Multiple Object Tracking Benchmark - MOT16
Multiple Object Tracking Benchmark - MOT16原创 2017-12-03 19:54:25 · 1735 阅读 · 0 评论 -
Microsoft COCO: Common Objects in Context - 结果格式 (Results Format)
Microsoft COCO: Common Objects in Context - 结果格式 (Results Format)http://cocodataset.org/#homeHome -> Evaluate -> Results Formathttp://cocodataset.org/#format-resultsResults FormatThis page descr...转载 2018-05-24 20:49:09 · 801 阅读 · 0 评论 -
Microsoft COCO: Common Objects in Context - 目标检测评估 (Detection Evaluation)
Microsoft COCO: Common Objects in Context - 目标检测评估 (Detection Evaluation)http://cocodataset.org/#homeHome -> Evaluate -> Detectionhttp://cocodataset.org/#detection-eval1. Detection Evaluation检测评...转载 2018-05-24 23:13:57 · 2278 阅读 · 0 评论 -
CNRPark+EXT - Papers
CNRPark+EXT - Papershttp://www.cnrpark.it/[1] Deep learning for decentralized parking lot occupancy detection G Amato, F Carrara, F Falchi, C Gennaro, C Meghini, C Vairo https://www.sciencedirec...翻译 2018-07-31 12:36:05 · 466 阅读 · 0 评论 -
mAP (mean Average Precision，平均精确率均值) for Object Detection
mAP (mean Average Precision，平均精确率均值) for Object Detectionhttps://medium.com/@jonathan_hui/map-mean-average-precision-for-object-detection-45c121a31173mAP is the metric to measure the accuracy of o...翻译 2018-07-30 19:55:45 · 8066 阅读 · 0 评论 -
Accuracy, Precision, Recall & F1 Score: Interpretation of Performance Measures
Accuracy, Precision, Recall & F1 Score: Interpretation of Performance Measureshttp://blog.exsilio.com/all/accuracy-precision-recall-f1-score-interpretation-of-performance-measures/ How to evalu...翻译 2018-07-24 21:05:23 · 1151 阅读 · 0 评论