shy2218的博客

CUDA是什么？CUDA（Compute Unified Device Architecture），是显卡厂商NVIDIA推出的运算平台。 CUDA™是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。 它包含了CUDA指令集架构（ISA）以及GPU内部的并行计算引擎。 （以上解释来自百度词条）查看CUDA版本选择合适的Pytorch官网链接：https://pytorch.org/由于我的cuda版本是11.1，且这里显示请用cuda11.3，我们选择下部的

卷积神经网络 CNN模型结构：输入层，卷积层，池化层，输出层(全连接层+softmax layer)总有至少1个的卷积层，用以提取特征。卷积层级之间的神经元是局部连接和权值共享，这样的设计大大减少了(w,b)的数量...

Resnet 残差网络参考：https://v.youku.com/v_show/id_XMzM4MDM2NzA2OA==.html?spm=a2hzp.8244740.0.0最大的特点：深度深深度网络的好处？特征的"等级"随网络深度的加深而变高极其深的深度使该网络拥有极强大的表达能力训练深度网络的重要问题（是层数越多网络越好吗？）1. 梯度弥散2.退化问题层数越深的网络反而有更大的误差对问题的解决方法–ResnetReLu这个激活函数使得小于零的部分都为0。...

全连接神经网络 FCNN参考：公众号 阿力阿哩哩激活函数：加上f( )这个运算的目的是将输出的值域压缩到（0,1），也就是所谓的归一化，因为每一级输出的值都将作为下一级的输入，只有将输入归一化了，才会避免某个输入无穷大，导致其他输入无效，变成“一家之言”，最终网络训练效果非常不好。神经网络的训练是有监督的学习，也就是输入X有着与之对应的真实值Y ，神经网络的输出Y 与真实值Y 之间的损失Loss 就是网络反向传播的东西。整个网络的训练过程就是不断缩小损失Loss 的过程。缩小loss上述的公