牧野的博客

原文链接： https://mp.weixin.qq.com/s/I5XgYrPCCGyfV2qTI0sJhQ深度神经网络自出现以来，已经成为计算机视觉领域一项举足轻重的技术。其中，ImageNet 图像分类竞赛极大地推动着这项新技术的发展。精确计算水平取得了稳步的增长，但颇具吸引力的模型应用尚未得到合理的利用。本文将综合分析实际应用中的几项重要指标：准确度、内存占用、参数、操作时间、操作次数、推...

原文链接： https://zhuanlan.zhihu.com/p/29119239卷积层尺寸的计算原理输入矩阵格式：四个维度，依次为：样本数、图像高度、图像宽度、图像通道数输出矩阵格式：与输出矩阵的维度顺序和含义相同，但是后三个维度（图像高度、图像宽度、图像通道数）的尺寸发生变化。权重矩阵（卷积核）格式：同样是四个维度，但维度的含义与上面两者都不同，为：卷积核高度、卷积核宽度、输入通道数、输出...

原文链接： https://zhuanlan.zhihu.com/p/31575074在梳理CNN经典模型的过程中，我理解到其实经典模型演进中的很多创新点都与改善模型计算复杂度紧密相关，因此今天就让我们对卷积神经网络的复杂度分析简单总结一下下。本文主要关注的是针对模型本身的复杂度分析（其实并不是很复杂啦～）。如果想要进一步评估模型在计算平台上的理论计算性能，则需要了解 Roofline Model...

原文链接： https://zhuanlan.zhihu.com/p/34204282最近在不同的计算平台上验证几种经典深度学习模型的训练和预测性能时，经常遇到模型的实际测试性能表现和自己计算出的复杂度并不完全吻合的现象，令人十分困惑。机缘巧合听了Momenta的技术分享后，我意识到问题的答案其实就在于 Roof-line Model 这个理论，于是认真研究了一下相关论文。现在把自己的心得总结出来...

原文链接： http://www.zhiding.cn/techwalker/documents/J9UpWRDfVYHE5ToOGy30k4fU9v9ep3gPUOb3TSAsig本文为机器之心矽说专栏系列文章之一，对模型压缩进行了深度解读。1. 为什么要为深度学习模型减肥随着深度学习的发展，神经网络模型也越来越复杂，常用的模型中 VGG 系列网络的计算量可以达到 30-40 GOP（1GOP=...

原文链接： https://zhuanlan.zhihu.com/p/33693725作为顶尖的自动驾驶公司，Momenta一直专注于打造自动驾驶大脑，这一过程离不开深度学习的高效运行。2月1日晚，Momenta联合量子位吃瓜社栏目带来了Paper Reading第二季首期分享：让深度学习更高效运行的两个视角。本期主讲人王晋玮是特征点定位专家、深度学习模型加速专家、Momenta合伙人。他从优化计...

原文链接： https://cloud.tencent.com/developer/article/1005738导语：卷积神经网络日益增长的深度和尺寸为深度学习在移动端的部署带来了巨大的挑战，CNN模型压缩与加速成为了学术界和工业界都重点关注的研究领域之一。前言自从AlexNet一举夺得ILSVRC 2012 ImageNet图像分类竞赛的冠军后，卷积神经网络（CNN）的热潮便席卷了整个计算机视...