
深度学习
文章平均质量分 92
深度学习相关
「已注销」
这个作者很懒,什么都没留下…
展开
-
【轻量级网络】华为诺亚:VanillaNet
随着人工智能芯片的发展,神经网络推理速度的瓶颈不再是FLOPs或参数量,因为现代GPU可以很容易地进行计算能力较强的并行计算。相比之下,神经网络复杂的设计和较大的深度阻碍了它们的速度。在此背景下,华为诺亚提出了极简网络架构VanillaNet,在ImageNet数据集上,深度为6的网络即可取得76.36%的精度,深度达到13时便能取得83.1%的精度!如果能够将深度训练和重参数化合理地结合起来,就是模型压缩利器,大有文章可做,挖个坑~原创 2023-06-01 20:42:58 · 1472 阅读 · 0 评论 -
【形形色色的卷积】差分卷积
普通卷积不能显式地提取图像的梯度信息,因此不能较好地描述细粒度的纹理信息,在人脸活体检测、边缘检测等对细粒度纹理信息敏感的任务中难以取得理想的结果。针对上述问题,Oulu大学的研究者们提出了一系列差分卷积,在人脸活体检测和边缘检测等任务中取得了很好的效果。原创 2023-05-28 17:43:19 · 6311 阅读 · 0 评论 -
重参数化技术(RepVGG, RepOptimizer)
一方面,大量研究表明,多分支网络架构的性能普遍优于单分支架构;另一方面,相比多分支架构,单分支架构更有利于部署。那么有没有可能训练时采用多分支架构,而推理时使用单分支呢?私以为,Re-parameterization is All You Need!!!原创 2023-04-16 11:02:14 · 5891 阅读 · 0 评论 -
轻量级网络总结
总结轻量级网络设计思想原创 2022-10-28 10:36:47 · 6594 阅读 · 10 评论 -
注意力机制总结
论文:论文:论文:X∈RH′×W′×C′U∈RH×W×CU∈RH×W×CUU^U∈RH×W×CS∈RCZ∈RdZA∈RC×dB∈RC×da∈RCb∈RCabUU^ab1UU。原创 2022-10-28 10:37:29 · 6845 阅读 · 1 评论 -
Ubuntu22.04安装CUDA和cuDNN详细过程记录
Ubuntu22.04安装CUDA和cuDNN详细过程记录原创 2022-11-05 20:06:51 · 50464 阅读 · 22 评论 -
简单快速地搭建深度学习环境
简单快速地搭建深度学习环境原创 2022-09-20 22:19:41 · 628 阅读 · 0 评论 -
CNN可视化技术 -- CAM & Grad-CAM详解及pytorch简洁实现
CNN中的特征图可视化大体可分为两类:第一类方法只显示了在深层特征中保留了哪些信息,而没有突出显示这些信息的相对重要性。第二类方法则具有一定的解释性,例如在分类任务中,通过CAM能够解释模型究竟是通过重点学习哪些信息来判断类别的。.......................................原创 2022-06-28 20:33:05 · 7003 阅读 · 11 评论 -
强化学习: Policy Gradient
强化学习--策略梯度(Policy G)原创 2022-04-16 15:07:13 · 3665 阅读 · 0 评论