明亮如星研旅（5）——Robust Classification with Convolutional Prototype Learning

最新推荐文章于 2025-06-12 23:47:50 发布

翻译最新推荐文章于 2025-06-12 23:47:50 发布 · 2.7k 阅读

手写文字识别同时被 2 个专栏收录

3 篇文章

订阅专栏

深度学习

2 篇文章

订阅专栏

文章围绕基于深度学习的手写字体识别展开，针对传统卷积神经网络鲁棒性问题，提出卷积原型学习（CPL）和原型损失（PL）。介绍了框架网络结构、前馈预测与反馈训练、多分类损失函数等内容，并通过多组实验验证其效果，最后分析了优缺点并提出思考。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

这里继续呈上一篇基于深度学习的手写字体识别的文章（【Paper】 Yang H M , Zhang X Y , Yin F , et al. Robust Classification with Convolutional Prototype Learning[J]. 2018.）。

这篇文章发表在2018年的CVPR，与其说这是一篇关于文字识别的文章，不如说是调整卷积网络结构的文章。近几年学术界逐渐发现传统的卷积神经网络的缺陷，通过生成对抗样本，使得原来的样本图片经较少改动（人眼完全区分不出来），在网络中得到完全不同的结果，而且有很高的置信度。

一、简述

针对前面提到的鲁棒性问题进行研究，作者发现了问题主要出在用于分类的softmax。作者提出了卷积原型学习（CPL），利用每个类的原型来代表每个类，定义不同的多分类评价函数，来训练网络。除此之外又提出了原型损失（PL）作为正则化项，使得评价函数既考虑类间的间隔又考虑类内的紧致性。

卷积原型学习可以看作是一个高斯分布假设下的生成模型，每个原型代表一个类，使得模型其有较好的拒绝能力，也能胜任类别增加学习。其实所谓的原型学习，我们应该学过不少基础的方法，只是换了个说法，例如K-mean聚类算法、LVQ算法等等，就是用某个样本来代表一个类呗，这里作者将原型学习同深度学习结合起来了。

二、主要内容

在这里插入图片描述

从传统卷积神经网络训练结果看，不同类别不是呈现圆形，而是椭圆长条形，而且都聚合在一起，这导致同类样本的距离甚至大于不同类别样本的距离，即类间差异小于类内差异，这就导致模型的鲁棒性不佳。

作者取消了模型的softmax层，自己定义损失函数，从数据中学得最能代表每一类的原型。损失函数设计时同时考虑到：1、类内聚合度；2、类间分离性；将样本映射到原型附近的类特征空间

2.1 框架的网络结构

在这里插入图片描述左边的CNN是用于提取特征，右边用原型来进行分类，可能存在新类的样本，也可能存在噪声样本。这里用 $f(x;\theta)$ 代表特征提取器， $x$ 是训练样本， $\theta$ 是CNN的参数。对于原型为 $m_{ij}$ ，其中 $i\in \{1,2,...,C\}$ 代表类别数, $j\in\{1,2,...K\}$ 代表每个类别的原型数。

2.2 前馈预测与反馈训练

一个样本分类为最近的原型所属的类别： $\in$ class $arg \max _{i=1}^{C} g_{i}(x)$ ，其中
$g_{i}(x)=-\min _{j=1}\left\|f(x ; \theta)-m_{i j}\right\|_{2}^{2}$ 反馈训练要求CNN与原型学习能够同时训练，即模型框架的损失函数要对参数 $\theta$ 与 $M$ 能够进行复合链式法则求导。

2.3多分类损失函数

2.3.1 Minimum classification error loss (MCE)

首先是最小分类误差损失，这个损失函数我之前的博客明亮如星研旅(3)—— Discriminative Learning Quadratic Discriminant Function for Handwriting Recognition介绍过，前面以类条件密度函数的相反数作为度量距离，这里就直接用 $l_2$ 范数作为度量距离 $\mu_{y}(x)=\left\|f(x)-m_{y i}\right\|_{2}^{2}-\left\|f(x)-m_{r j}\right\|_{2}^{2}$ 然后带入得到损失函数 $\theta, M)=\frac{1}{1+e^{-\xi \mu_{y}}}$ 而且这个损失函数是关于 $M$ 和 $\theta$ 可导（后面都证明这个导数存在性，模型是可统一训练）
$\frac{\partial l}{\partial f}=2 \xi l(1-l)\left(m_{r j}-m_{y i}\right)$ $\frac{\partial l}{\partial m_{y i}}=2 \xi l(1-l)\left(m_{y i}-f(x)\right)$ $\frac{\partial l}{\partial m_{r j}}=2 \xi l(1-l)\left(f(x)-m_{r j}\right)$

2.3.2 Margin based classification loss (MCL)

基于间隔的分类损失同SVM定义了一个分类间隔，从而提高分类的鲁棒性。 $\theta, M)=\left[d\left(f(x), m_{y i}\right)-d\left(f(x), m_{r j}\right)+m\right]_{+}$ 其中 $m_{rj}$ 表示最靠近类中最相似的原型， $m$ 代表间隔，为了统一数量级，即统一到[0-1]之间，进一步改进为：
$\theta, M)=\left[\frac{d\left(f(x), m_{y i}\right)-d\left(f(x), m_{r j}\right)}{d\left(f(x), m_{y i}\right)+d\left(f(x), m_{r j}\right)}+m\right]_{+}$ 相应的又验证了一下导数存在性。

2.3.3 Distance based cross entropy loss (DCE)

基于距离的交叉熵损失以距离为度量，重新定义交叉熵损失。与softmax相似，其也可以作为分类的置信度。
$p\left(x \in m_{i j} | x\right)=\frac{e^{-\gamma d\left(f(x), m_{i j}\right)}}{\sum_{k=1}^{C} \sum_{l=1}^{K} e^{-\gamma d\left(f(x), m_{k l}\right)}}$ 相应的损失函数为 $\theta, M)=-\log p(y | x)$ 其中 $x)=\sum_{j=1}^{K} p\left(x \in m_{y j} | x\right)$ 为相应标记类的概率和。

2.4 Generalized CPL with prototype loss

这里提出了GCPL，即加入正则化项
$\theta, M)=\left\|f(x)-m_{y j}\right\|_{2}^{2}$ 其中 $m_{y j}$ 代表GT类中最相似的原型，联合两项最后得到GCPL的损失函数为
$\operatorname{loss}((x, y) ; \theta, M)=l((x, y) ; \theta, M)+\lambda p l((x, y) ; \theta, M)$ 其实这个损失函数有两类损失度量，左边的 $l$ 描述了类间间隔损失，右边的 $p l$ 描述了类内紧致性损失，这个的损失函数刻画，相比于Softmax+cross entropy损失有较大的优势。