白丁的博客

文章目录1、LeNet2、AlexNet3、VGG4、GoogLeNet5、ResNet6、ResNeXt7、DenseNet8、SeNet1、LeNet    LeNet 诞生于 1994 年，是最早的卷积神经网络之一，并且推动了深度学习领域的发展。这篇文章对之后的发展具有开创意义。在那个没有GPU加速的年代，LeNet设计简单，这也就使其处理复杂数据的能力有限。2、AlexNet...

文章目录一、卷积的本质二、2D卷积三、3D卷积四、转置卷积五、1x1卷积六、深度可分离卷积七、**空洞卷积**八、图卷积一、卷积的本质    首先，我们先从数学和图像处理应用的意义上来看一下卷积到底是什么操作。我们先回到数学教科书中来看卷积，在泛函分析中，卷积也叫旋积或者褶积，是一种通过两个函数x(t)和h(t)生成的数学算子。其计算公式如下：连续形式:   &...

文章目录一、梯度下降法(Gradient Descent)1、批量梯度下降法(BGD, Batch Gradient Descent)2、随机梯度下降法(SGD, Stochastic Gradient Descent)3、小批量梯度下降法(Mini-batch Gradient Descent)二、动量优化法1、Momentum2、NAG（Nesterov accelerated gradien...