langzi453的博客

这篇文章主要针对以往三值量化一刀切的粗暴“量化”方式提出“细粒度”量化的想法。文章目的将现有的网络不经训练地转化为三值网络，且激活函数8bit/4bit的。相对于前人的工作，这篇文章的创新点在于Weight Grouping上。3.1说应该将weights分为正交的子集。3.2说3.1太麻烦了，直接按照顺序分成子集就好，真是纠结的一篇文章啊。 效果上，作者给出的字面数据...

这是一篇2019年的CVPR，其工作十分有趣！笔者下面带大家简单地看看这篇文章：论文地址：https://arxiv.org/abs/1812.042101、摘要模型压缩研究领域中有两种热门的方法：量化和剪枝，这些都在我的博客中讲过，特别是剪枝。在量化过程中，有一种特别极端的方法，1bit的二值量化。对于一个二值网络而言，其本身就是“压缩”的。这篇文章致力于用其提出的一种bottom-...