【每周论文推荐】 初入深度学习CV领域必读的几篇文章

深度学习值得关注的75篇文章 75 most popular Deep Learning Papers from the Bibliography Neural Networks: A Review Analysis of Deep Convolutional Neural Network Architectures Manifold Regularized Deep Neural Networks Emotion 阅读详情

很多朋友都希望我们开通论文推荐和阅读板块,那就开吧,此专栏名为《每周论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。

网络模型作为深度学习的几大核心问题之一,今天就给初入深度学习CV领域的朋友推荐一些必读的文章,相信读完这些文章之后,大家对这个主题会有更深刻的体会。

作者&编辑 | 言有三

1 视觉机制的研究

这篇文章是对视觉机制的重要研究,由现代视觉科学之父,诺贝尔生理学与医学奖获得者,加拿大神经生理学家 David Hunter Hubel 和瑞典神经科学家 Torsten Nils Wiesel所写,是CNN的启蒙。


文章引用量:13000+

推荐指数:✦✦✦✧✧

640?wx_fmt=png

[1] Hubel D H, Wiesel T N. Receptive fields, binocular interaction and functional architecture in the cat's visual cortex[J]. The Journal of physiology, 1962, 160(1): 106-154.

2 第一个图像CNN网络

1980 年日本 NHK 技术研究所的研究员福島邦彦提出了Neocognitron网络,这是第一个真正意义上的多层级联神经网络,与当前的卷积神经网络结构非常相似,可以认为是卷积神经网络的起源。


文章引用量:3000+

推荐指数:✦✦✦✦✧

640?wx_fmt=gif

[2] Fukushima K. Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position[J]. Biological cybernetics, 1980, 36(4): 193-202.

3 LeNet5

从1989年开始纽约大学的Yann LeCun等人开始认真研究卷积神经网络,并提出了LeNets网络系列,迭代了近10年,从LeNet1直到大家最为熟悉的LeNet5诞生。这是卷积神经网络真正商用化的开始,也是反向传播理论大放异彩的开始,可称之为卷积神经网络的Hello World。


文章引用量:19000+

推荐指数:✦✦✦✦✦

640?wx_fmt=png

[3] LeCun Y, Bottou L, Bengio Y, et al. Gradient-based learning applied to document recognition[J]. Proceedings of the IEEE, 1998, 86(11): 2278-2324.

4 深度学习启蒙

2006年Geoffrey Everest Hinton等人在《Science》杂志上发表文章《reducing the dimensionality of data with neural networks》,提出了参数逐层初始化的DBN网络的训练,一般被认为是“深度学习”的启蒙。

文章引用量:9000+

推荐指数:✦✦✦✦✧

640?wx_fmt=png

[4] Hinton G E, Salakhutdinov R R. Reducing the dimensionality of data with neural networks[J]. science, 2006, 313(5786): 504-507.

5 深度学习里程碑

2012年,在图像领域中具有里程碑意义的ImageNet竞赛中,Geoffrey Hinton的学生Alex Krizhevsky提出了 AlexNet,凭借若干优秀的工程技巧一举夺魁远超对手,意味着深度学习强势诞生。

文章引用量:43000+

推荐指数:✦✦✦✦✦

640?wx_fmt=png

[5] Krizhevsky A, Sutskever I, Hinton G E. Imagenet classification with deep convolutional neural networks[C]//Advances in neural information processing systems. 2012: 1097-1105.

6 CNN可视化

2013年Hinton的学生Matthew D. Zeiler和Rob Fergus 在论文“Visualizing andUnderstanding Convolutional Networks”中提出了zfnet,他们利用反卷积技术对CNN进行了可视化,详细探讨了CNN的分层抽象学习能力。


文章引用量:6000+

推荐指数:✦✦✦✦✧

640?wx_fmt=png

[6] Zeiler M D, Fergus R. Visualizing and understanding convolutional networks[C]//European conference on computer vision. Springer, Cham, 2014: 818-833.

7 CNN重要基准模型

2014年牛津大学视觉组在论文“very deep convolutional networks for large-scale image recognition”中提出了VGGNet,分别在ImageNet的定位和分类任务中取得第一名和第二名,以简单的工程技巧成为了至今仍然被广泛使用的baseline。

文章引用量:24000+

推荐指数:✦✦✦✦✦

640?wx_fmt=png

[7] Simonyan K, Zisserman A. Very deep convolutional networks for large-scale image recognition[J]. arXiv preprint arXiv:1409.1556, 2014.

8 1*1卷积

这只是一个将普通卷积核半径变为1的卷积方式,却影响了之后几乎所有的模型,将这个1×1的特殊卷积用于通道的降维和升维,已经成为模型设计不可缺少的组件。


文章引用量:4000+

推荐指数:✦✦✦✦✧

640?wx_fmt=png

[8] Lin M, Chen Q, Yan S. Network in network[J]. arXiv preprint arXiv:1312.4400, 2013.

9 Inception机制

在VGG网络不能再通过加深得到进一步性能突破的时候,Inception模型(又名GoogLeNet)使用了拥有不同感受野并行的多分支Inception结构,进一步加深了网络深度并成为当年的基准模型。


文章引用量:14000+

推荐指数:✦✦✦✦✧

640?wx_fmt=jpeg

[9] Szegedy C, Liu W, Jia Y, et al. Going deeper with convolutions[C]//Proceedings of the IEEE conference on computer vision and pattern recognition. 2015: 1-9.

除了以上文章,还有几篇文章推荐大家也去阅读,包括第一个语音CNN网络[10],小卷积的机制研究[11]等。

[10] Waibel A, Hanazawa T, Hinton G, et al. Phoneme recognition using time-delay neural networks[J]. Backpropagation: Theory, Architectures and Applications, 1995: 35-61.

[11] Ciresan D C, Meier U, Masci J, et al. Flexible, high performance convolutional neural networks for image classification[C]//Twenty-Second International Joint Conference on Artificial Intelligence. 2011.

10 如何获取文章与交流

找到有三AI开源项目即可获取。

https://github.com/longpeng2008/yousan.ai

640?wx_fmt=png

文章细节众多,阅读交流在有三AI知识星球中进行,感兴趣可以加入。

640?wx_fmt=jpeg

总结

以上就是CNN发展早期的一些重要论文,下一期我们将推荐残差网络结构相关的研究。

有三AI夏季划

640?wx_fmt=png

有三AI夏季划进行中,欢迎了解并加入,系统性成长为中级CV算法工程师。

有三AI“夏季划”出炉,今夏进阶中级CV算法工程师

转载文章请后台联系

侵权必究

640?wx_fmt=png

640?wx_fmt=png

640?wx_fmt=png

往期精选

esp32s3 spi camera gc6133调试 gc6133 spi只有master模式,同时需要esp32提供主时钟,需要有主时钟然后才能通过i2c进行初始化.测试了几种方式,记录如下。 阅读详情

相关推荐

糖果【贪心】

【问题描述】 有N(1≤N <100,000)N(1≤N~<100,000)N(1≤N <100,000)种不同类型的糖果,每种糖果数量无限多。第i种糖果每颗的价格是Pi(1≤Pi≤1018),有Ci(1≤Ci≤1018)P_i(1≤P_i≤10^{18}),有C_i (1≤C_i≤10^{18)}Pi​(1≤Pi​≤1018),有Ci​(1≤Ci​≤1018)头牛想吃这种糖果。 FarmerJohnFarmer JohnFarmerJohn拥有金钱BBB元(1≤B≤1

算法小猪的博客 798

人工智能教程第一课 深度学习和计算机视觉TensorFlow入门

深度学习 学习目标 知道什么是深度学习 知道深度学习的应用场景 1.什么是深度学习 在介绍深度学习之前,我们先看下人工智能,机器学习和深度学习之间的关系: 机器学习是实现人工智能的一种途径,深度学习是机器学习的一个子集,也就是说深度学习是实现机器学习的一种方法。与机器学习算法的主要区别如下图所示: 传统机器学习算术依赖人工设计特征,并进行特征提取,而深度学习方法不需要人工,而是依赖算法自动提取特征。深度学习模仿人类大脑的运行方式,从经验中学习获取知识。这也是深度学习被看做黑盒子,可解释性差的原因

fegus的博客 2766

告别ROS1!在Ubuntu 22.04上为VINS-Fusion适配ROS2 Humble的完整踩坑记录

本文详细记录了在Ubuntu 22.04上将VINS-Fusion从ROS1迁移到ROS2 Humble的完整过程,包括环境搭建、依赖管理、核心代码适配及性能优化。通过实战案例和调试技巧,帮助开发者高效解决迁移过程中的常见问题,提升系统稳定性和性能。

weixin_42628688的博客 281

深度学习9篇论文

Introduction        卷积神经网络CNN,虽然它听起来就像是生物学、数学和计算机的奇怪混杂产物,但在近些年的机器视觉领域,它是最具影响力的创新结果。随着Alex Krizhevsky开始使用神经网络,将分类错误率由26%降到15%并赢得2012年度ImageNet竞赛(相当于机器视觉界的奥林匹克)时,它就开始声名大噪了。从那时起,一票公司开始在它们的核心服务中使用深度学习技术。例...

hk121的博客 9026

八大核心深度学习算法详解:从CNN到Transformer的完整指南

深度学习作为人工智能的核心技术,通过多层神经网络模拟人脑学习机制。其基本原理是利用反向传播算法优化网络参数,从数据中自动提取特征表示。这一技术价值在于能够处理高维复杂数据,在图像识别、自然语言处理等领域实现突破性进展。卷积神经网络(CNN)通过局部连接和权值共享有效处理图像数据,而Transformer架构基于自注意力机制革新了序列建模方式。在实际工程实践中,CNN广泛应用于计算机视觉任务,如图像分类和目标检测;Transformer则成为自然语言处理的主流架构,支撑着BERT、GPT等预训练模型。本文系统

aoe41606的博客 432

虚拟机ubuntu22.04.3中安装vitis2024.1注意事项

虚拟机ubuntu安装vitis2024.1

qq_52033578的博客 2497

cv mat 灰度值和_深度学习CV实践指南!

Datawhale干货作者:黄星源、樊亮、陈桦、斯国一深度学习的发展不仅突破了许多视觉难题,也加速了计算机视觉领域相关技术的进步。本文主要从CV数据处理、CV模型(CNN)、CV模型训练流程以及CV模型集成对计算机视觉的基础知识和基本环节进行了讲解。CV数据下载https://tianchi.aliyun.com/competition/entrance/531795/informa...

weixin_39663602的博客 536

【教程4>第10章>第13节】基于FPGA的图像双边滤波开发——单通道双边滤波Verilog实现

本文介绍了基于Vivado 2022.2的单通道高斯滤波FPGA实现方案。主要内容包括:1)采用3×3窗口像素提取、高斯权值计算、exp指数运算等模块构建双边滤波系统;2)详细分析了Verilog HDL实现的顶层设计文件,包含窗口数据生成、指数计算、混合权重、归一化处理等关键模块;3)展示了图像双边滤波器的RTL结构图。该设计为后续实现RGB三通道图像高斯滤波及MATLAB联合仿真奠定了基础。

FPGA/MATLAB学习教程/源码/项目合作开发 265

【详解】计算机视觉算法导读篇

1 深度学习发展史 起源:深度学习所需要的神经网络技术起源于20世纪50年代,叫做感知机。当时也通常使用单层感知机,尽管结构简单,但是能够解决复杂的问题。后来感知机被证明存在严重的问题,因为只能学习线性可分函数,连简单的异或(XOR)等线性不可分问题都无能为力,1969年Marvin Minsky写了一本叫做《Perceptrons》的书,他提出了著名的两个观点:1.单层感知机没用,我们需要多层感知机来解决复杂问题 2.没有有效的训练算法。 发展:20世纪90年代,各种各样的浅层机器学习模型相继被提出,.

一个内容严谨、方向前沿、极具实践价值的AI大模型技术分享站 2621

如何做好软件需求分析?

软件需求分析也称为系统需求分析或需求分析工程等,是开发人员经过深入细致的调研和分析,准确理解用户和项目的功能、性能、可靠性等具体要求,将用户非形式的需求表述转化为完整的需求定义,从而确定系统必须做什么的过程。软件开发一般包括:可行性分析、需求分析、软件设计、软件开发、软件测试、软件实施、软件服务等步骤,需求分时软件开发的第一步骤。用户需求分析是指在系统设计之前和设计、开发过程中对用户需求所作的调查与分析,是系统设计、系统完善和系统维护的依据。

qq_41854911的博客 1416

路由三大分类:直连路由、静态路由、动态路由

直连路由、静态路由和动态路由各有其独特的特点和适用场景。直连路由适用于简单的直接连接网络,静态路由提供了精确的路径控制,而动态路由则在大型复杂网络中展现出强大的适应性和自动化能力。了解和掌握这三种路由类型的配置和管理,对于网络管理员来说,是确保网络高效、安全运行的重要技能。

网络技术联盟站 4699

「每周论文推荐」 初入深度学习CV领域必读的几篇文章

https://www.toutiao.com/a6718570271269192200/ 很多朋友都希望我们开通论文推荐和阅读板块,那就开吧,此专栏名为《每周论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。 网络模型作为深度学习的几大核心问题之一,今天就给初入深度学习CV领域的朋友推荐一些必读的文章,相信读完这...

喜欢打酱油的老鸟 823

VS2019项目使用CGAL6.1配置教程详细步骤

在VS2019项目中使用CGAL详细步骤

插件开发 333

【每周CV论文推荐】 初学深度学习人脸属性分析必读的文章

欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。人脸属性分析在社交娱乐,人机交互等领域有重要的作用,本次我们介绍初学人脸属性分析需要读的文章,包括年龄,表情等。作者&编辑 | 言有三 1 IMDB-WIKI人脸年龄的估计包括真实年龄和表观年龄,也分为年龄值和年龄段的估计,最简单的方法就是基于分类...

hacker_long的专栏 1239

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

【每周CV论文推荐】初学模型蒸馏值得阅读的文章

欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。模型蒸馏是非常重要的模型压缩方法,在学术界研究非常广泛,本次我们来简单给大家推荐一些初入该领域值得阅读的工作。作者&编辑 | 言有三1 基于优化目标驱动的知识蒸馏框架Hinton最早在文章“Distilling the knowledge in a ...

hacker_long的专栏 1656

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

【每周CV论文推荐】基于GAN的图像修复值得阅读的文章

欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。图像修复(补全)是一个非常基础的图像处理领域,也是一个难度较大的方向,随着生成对抗网络技术的成熟,基于GAN的图像修复在传统方法的基础上取得了非常大的进展,本次我们来简单给大家推荐一些初学者值得关注的工作。作者&编辑 | 言有三1基本模型由于GAN...

hacker_long的专栏 2553

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

【每周CV论文推荐】 初学深度学习人脸识别和验证必读文章

欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。人脸识别和验证是当前人脸图像...

hacker_long的专栏 1434

【每周CV论文推荐】 初学深度学习人脸关键点检测必读文章

欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。人脸关键点检测是人脸图像中重...

hacker_long的专栏 951

【每周CV论文推荐】 深度学习人脸检测入门必读文章

欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。人脸图像是整个图像处理领域里...

hacker_long的专栏 831

【每周CV论文推荐】 CV领域中数据增强相关的论文推荐

欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。数据增强在每一个深度学习项目...

hacker_long的专栏 791

【每周CV论文推荐】 初学活体检测与伪造人脸检测必读的文章

欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。活体检测在安防与金融等使用人脸识别技术的领域中是一项非常重要的技术,本次我们介绍初学深度学习活体检测与伪造检测领域需要读的文章。作者&编辑 | 言有三 1 Learning CNN这是最早期CNN用于活体检测的文章,在此之前都是手动提取特征,文章采...

hacker_long的专栏 2020

【每周CV论文推荐】 初学GAN必须要读的文章

欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。GAN作为当前最有前途,也最...

hacker_long的专栏 716

cv方向有哪些_【每周CV论文】初学深度学习图像超分辨应该要读的文章

欢迎来到《每周CV论文》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。图像超分辨是一个非常实际应用价值的方向,今天给大家推荐初学该领域必须要读的文章。作者&编辑 | 言有三1 SRCNNSRCNN方法[1]是将深度学习用于图像超分辨领域中最早期的尝试,它是一个前上采样结构,可以看作是经典的稀疏编码用深度学习模型进行实现。文...

weixin_39616961的博客 346

「每周CV论文推荐」 初学深度学习人脸识别和验证必读文章

欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。 人脸识别和验证是当前人脸图像在身份认证领域中最广泛的应用,今天给大家介绍入门深度学习人脸识别必读的文章。 作者&编辑 | 言有三 1 Deepface Deepface是最早期的深度学习人脸识别框架,它首先对输入人脸经过3D对齐,然后使用数...

喜欢打酱油的老鸟 716

【每周CV论文推荐】 初学者必须精读的5篇深度学习优化相关文章

欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。从事深度学习岗位,扎实的深度...

hacker_long的专栏 725

fasterrcnn论文_【每周CV论文推荐】 深度学习人脸检测入门必读文章

我的新书《深度学习之人脸图像算法》市了,欢迎大家关注!言有三新书来袭,业界首次深入全面讲解深度学习人脸图像算法​mp.weixin.qq.com欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。人脸图像是整个图像处理领域里面研究时间最长,应用最广的方向,今天给大家介绍入门深度学习人脸检测必读的文章。作者&a...

weixin_39889544的博客 201
上一篇: 【杂谈】为何有三AI只做原创,从不转载
下一篇: 【知识星球】总有些骨骼轻奇,姿态妖娆的模型结构设计,不知道你知不知道,反正我知道一些...
言有三
言有三 领域专家: 人工智能技术领域 领域专家: 人工智能技术领域
博客等级 码龄15年 3635粉丝 976原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

言有三

三人行必有AI

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值