CNN-RNN: A Unified Framework for Multi-label Image Classification(CVPR 2016)

CNN-RNN: A Unified Framework for Multi-label Image Classification
Paper PDF

Introduction

随着大规模数据集的出现和深度神经网络的进步，图像分类的精度越来越高。但通常一副图像往往含有多种元素，包括对象，部分，场景，动作等等。对图像中丰富的语义信息及其依赖关系进行建模是图像理解的基础。传统的图像分类任中，每一张图片只有一个标签，而在多标签分类任务中一张图像往往具有若干个与之相关的标签。这种任务显然能够让计算机进一步理解图像内容。
在以往的多标签分类的解决办法中，一类常见的解决方法是讲多标签分类任务转化为单标签分类，如利用利用rank-loss或者cross-entropy loss训练的神经网络。这些方法往往没有考虑不同标签之间的依赖关系。当然现在也存在基于图模型的办法来对标签之间的关系进行建模，如利用马尔科夫随机场或共现概率等方法来推断标签对的联合概率。但这类方法仅仅考虑了标签之间的low-level关系，在面对标签数量增多的情况下，往往会导致计算量巨大。甚至在存在相似标签，如“cat" 和”kitten“的时候，就会导致大量的冗余信息。
本文提出了一种用于多标签图像分类的统一的CNN-RNN框架，该框架以端到端方式有效地学习了语义冗余和依赖关系。为了获取标签之间的high-level关系，本文利用LSTM显式地建模label的语义信息以及依赖关系，同时这种RNNs框架利用前一阶段的预测标签来动态调整输入图像的提取特征，这使得在预测不同标签时，网络能够注意不同的图像区域。在标签存在的冗余语义问题上，论文提出构建图像-标签的联合embedding。这种embedding将每一个标签或图像向低维欧几里得空间进行映射，以使语义相似标签彼此接近，并且每个图像的应与其关联的标签接近。

---

Innovation

• joint image/label embedding
• 利用RNN学习在joint image/label embedding 空间下不同标签间的co-occurrence dependency。

---

Method

Model

模型通过CNN来提取图像的特征，标签则映射到相同的低维空间。如下式：
$$w_k=U_l\cdot e_k\text{\hspace{1em}(1)}$$
其中，$e_k$表示k-th标签的one-hot向量， U l U_l U