近日,斯坦福大学公布最新DAWNBench深度学习推理榜单,该榜单是人工智能领域最权威的竞赛之一,亚马逊AWS及谷歌均榜上有名,它要求参赛机构的计算平台对5万张图片进行精准识别并分类。在最近的一次测试结果中,阿里云的识别速度打破了亚马逊保持八个月的记录,成为首次出现在该榜单的中国科技公司。
根据结果显示,阿里云识别图片的速度比亚马逊快2.36倍,比谷歌快5.28倍。阿里云可以获胜的关键是强大的计算能力,其突破点在于针对图像识别任务研发了加速框架,可以自动将深度学习推理模型从32比特压缩到8比特,占用的计算资源将减少4倍,速度也由此提升了4倍。
阿里云参与了DAWNbench竞赛中的两个项目:一是针对ImageNet验证集中50000张图片的分类任务,要求分类模型的Top-5精度不低于93%,统计分类每一张图片的平均延迟,延迟越低,性能越高,排名越高;二是在每次一张的情况下,完成50000张图片推理的平均成本。比赛中,阿里云技术团队使用ecs.gn5i-c8g1.2xlarge实例,以每张图片4.218ms的性能,0.00000154美金的推理成本分别登顶推理性能和成本榜单,不仅性能是第二名基于Amazon EC2 [c5.18xlarge]实例的2.36倍,而且平均每张图片的推理成本也比第二名低6.1%。

在人工智能技术领域的研究中,尽管研究人员对系统、算法和硬件进行了大量的研究,以加速深度学习的工作负载,但是却没有标准的方法以评估端到端深度学习(end-to-end deep learning)性能。斯坦福大学提出的Dawnbench就是一种用于端到端深度学习训练和推理的基准套件,它提供了一组常见的深度学习工作负载,用于在不同的优化策略、模型架构、软件框架、云和硬件上量化训练时间、训练成本、推理延迟和推理成本。
此前,Intel的ResNet模型(Caffe框架),即完全由Xeon处理器构建的亚马逊EC2平台,在推理延迟和推理成本上都拿下第一。具体来说,Intel平台处理10000张图片的延迟是9.96ms,成本0.02美元。阿里云本次获得了图像识别性能及成本双料冠军,其中一项的成本同样为0.02美元。

早在今年5月份,阿里巴巴集团CEO张勇就在发言中表示:AI(人工智能)对于很多人来说可能是新事物,但阿里巴巴早已大规模应用。当大家第一次听到AI时,我们还以为说的是Alibaba Intellegence(阿里智能)。阿里云弹性计算负责人余锋表示,随着人工智能等计算场景的普及,计算芯片将术业有专攻,算力的大幅提升将成为业务创新的基石。
阿里云在斯坦福大学举办的DAWNBench深度学习推理竞赛中,以2.36倍于亚马逊和5.28倍于谷歌的速度,首次代表中国科技公司在图像识别任务上打破纪录。通过自主研发的加速框架,阿里云将深度学习推理模型从32比特压缩到8比特,大幅提高识别速度并降低推理成本。
8652

被折叠的 条评论
为什么被折叠?



