深度学习(DL)与卷积神经网络(CNN)学习笔记随笔-01-CNN基础知识点

最新推荐文章于 2025-07-08 16:35:48 发布

原创

最新推荐文章于 2025-07-08 16:35:48 发布 · 8k 阅读

16 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #神经网络 #cnn #机器视觉 #图像识别

本文介绍了卷积神经网络（CNN）的基础知识，包括受生物启发的神经认知机原理、稀疏连接、权值共享、卷积运算和最大池化的概念。CNN通过局部连接和权值共享减少参数，利用卷积和池化提取图像特征，具有平移不变性。文中提到了LeNet-5模型，并推荐了相关论文和学习资源。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

《CNN基础知识点》From：Convolutional Neural Networks (LeNet)

原文链接可以查看更多信息：http://blog.youkuaiyun.com/niuwei22007/article/details/47399913

神经认知机。
　卷积神经网络是受生物灵感的多层感知机的变体。从Hubel和Wiesel的早期对猫的视觉皮层的研究工作中得出，视觉皮层包含一组复杂的细胞排列。这些细胞会对很小的子区域敏感，称作Receptive Field（感受野细胞）。根据这个概念提出了神经认知机。它的主要作用就是Recept部分图像信息（或特征），然后通过分层局部相连，将各个局部特征组合成整个图像特征。需要仔细阅读的论文包括：
　(1) 第一篇关于感受野功能的论文Receptive fields and functional architecture of monkey striate cortex,1968
　(2) the NeoCognitron A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position,1980
　(3) HMAX Robust object recog-nition with cortex-like mechanisms,2007
　(4) 非常重要的LeNet-5 Gradient-based learning applied to document recognition,1998
　
稀疏连接。
　CNN层与层之间的连接并不全是全连接，而是局部连接，它的作用就是大幅度减少参数。

图1 层间连接示意图
权值共享。
　在CNNs中，每一种过滤器都可以通过重复堆叠而覆盖整个视野。这种堆叠就是复制自己，因此它们的单元共享同一个权值和偏置值，从而形成一张特征图。
　
　图2中 $m$ 层是由3个隐层单元构成的一张特征图。相同颜色的权值是共享的。梯度下降法仍然可以用来训练它们所共享的参数，不过需要在原算法基础上进行小的改动。共享权值的梯度就是简单的对每个共享参数的梯度求和得到。

图2 权值共享图
详细计算说明。
　为了更丰富的表示数据特征，每个隐藏层会包含多个特征图。
　定义 $h^k$ 代表某层的第 $k$ 个特征图。
　公式 hkij=tanh((Wk∗x)i