COCO Loss是一种用于大规模识别任务的损失函数，旨在增加同类样本间的特征相似度并减少不同类别的特征相似度。与Center Loss相比，COCO Loss在性能和计算复杂度上有优势。损失函数包括输入特征和中心特征的归一化、Cos距离计算及COCO Loss的定义。调整参数α对网络性能有显著影响，文章提供了选择α的建议，并提到了一些实践技巧，如特征中心的初始化和避免将特征规范化为1以解决数值梯度问题。
2017NIPS： 《Rethinking Feature Discrimination and Polymerization for Large-scale Recognition》
Github项目主页： https://github.com/sciencefans/coco_loss
文章方法简称 congenerous cosine loss, “COCO Loss”，其目的同样是：
- 拉近同类样本的特征（类内方差小）
- 拉远不同分类样本的特征（类间方差大）
相较于早些时间的Center Loss, COCO Loss 的效果更好，同时计算复杂度上也有所降低。
1. 方法介绍
下面直接介绍该Loss的实际计算流程：
(1) 输入特征与中心特征归一化
\(\hat {f^{(i)}}=\frac{\alpha f^{(i)}}{|f^{(i)}|}\)
\(\hat c_k=\frac{c_k}{|c_k|}\)
其中， \(c_k\) 为第 \(k\) 类目标的特征中心，是可以学习的，总共有 \(K\)类。 \(f^{(i)}\) 表示输入特征，\(i=1,…,N\)，即batch size为 \(N\)。 此外， \(\alpha\) 是一个对性能有重要影响的可调节参数，后面会介绍。
(2) 计算输入特征与每个特征中心的Cos距离
Cos距离的定义为
最低0.47元/天 解锁文章
扫一扫
5263
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
