长尾视觉识别任务对神经网络如何处理头部(常见)和尾部(罕见)类之间的不平衡预测提出了巨大挑战。模型倾向于将尾部类分类为头部类。虽然现有的研究侧重于数据重采样和损失函数工程,但在本文中,我们采用了不同的视角:分类间隔。我们研究了间隔(margin)和预测分数(logit)之间的关系,并凭经验观察到「未校准的边距和预测分数呈正相关」。我们提出了一种「简单而有效的边距校准方法 (Margin Calibration,MARC) 来校准边距以获得更平衡的预测分数」,从而提升分类性能。我们通过对常见长尾基准(包括 CIFAR-LT、ImageNet-LT、Places-LT 和 iNaturalist-LT)的广泛实验来验证MARC。实验结果表明,我们的MARC方法在这些基准上取得了良好的结果。此外,「只需三行代码」就能实现MARC。我们希望这种简单的方法能够激发人们重新思考长尾视觉识别中未校准的边距与预测分数之间的关系。
文章已被机器学习会议ACML 2022录用,由东京工业大学、微软STCA、南京大学、及微软亚洲研究院共同完成,第一作者为东京工业大学王一栋同学。
论文:https://arxiv.org/abs/2112.07225
间隔与预测分数的关系
在本文中,我们研究了「间隔(Margin)」和「预测分数 (logits)」之间的关系,这是主导长尾绩效的关键因素。
如下图所示,我们凭经验发现边距和预测分数与每个类的基数相关(一个类的基数即该类别拥有数据的数量)。具体来说,在校准之前,头类往往比尾类具有更大的边距和预测分数。因此,需要校准这种不平衡的边距以获得平衡的预测分数去避免未校准的边距对分类性能产生负面影响。
间隔校准方法MARC: Margin Calibration
我们提出一个简单的间隔校准方法「MARC (margin calibration)」来解决长尾问题。
具体而言,我们训练了一个简单的特定于类别的边距校准模型,其中原始边距固定, 和 是可学习参数:
的推理公式如下,最终是由预测分数(logit=)除以线性分类器(Linear Classifier Head)的权重(Weight)的模()取得,其中为线性分类器的偏差(bias):
因此,校准后的预测分数为
其中是固定的原始预测分数。
此外,我们还对不同类进行加权操作,最终通过训练 和 来获得更平衡的预测分数。
核心算法:仅需三行代码
MARC可以被分类为决策边界(间隔)调整算法,其与之前的一些同类算法如Decouple (ICLR'20, 评论区提到的)和DisAlign等的区别如下:
MARC的核心算法如下图所示,核心部分如红框所示。「仅需三行代码」即可实现MARC:
实验
分类结果
实验表格如下。我们在众多被广泛使用的长尾分类图像数据集中进行了对比。从实验结果可以看出MARC相比于其他方法取得了良好的性能,并且MARC十分容易实现。
复杂度
下图是MARC和另一个决策边界调整算法Dis-Align的对比试验,可以发现MARC取得了更平衡的边距和预测分数。
总结
本文研究了长尾视觉识别问题。具体来说,我们发现头类往往比尾类具有更大的边距和预测分数。受此发现的启发,我们提出了一个只有 2K(K是类别数)可学习参数的边距校准函数,以获得长尾视觉识别中的平衡预测分数。尽管我们的方法实现起来非常简单,但大量实验表明,与以前的方法相比,MARC在不改变模型表示的情况下取得了有利的结果。我们希望我们对预测分数和边距的研究能够为模型表示和边距校准的联合优化提供经验。未来,我们的目标是发展一个统一的理论来更好地支持我们的算法设计,并将该算法应用于更多的长尾应用。
Reference
[1] 本文所介绍的论文:Wang et al. Margin calibration for long-tailed visual recognition. Asian Conference on Machine Learning (ACML) 2022.
审核编辑 :李倩
-
算法
+关注
关注
23文章
4484浏览量
91353 -
代码
+关注
关注
30文章
4603浏览量
67389
原文标题:三行代码解决长尾不平衡类别分类!间隔校准算法Margin Calibration来了!
文章出处:【微信号:CVer,微信公众号:CVer】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
stm8低速时钟校准的疑问求解
Moku 时间间隔与频率分析仪介绍及典型应用案例演示
![Moku 时间<b class='flag-5'>间隔</b>与频率分析仪介绍及典型应用案例演示](https://file.elecfans.com/web2/M00/36/5B/poYBAGIyyjeAWyrMAAAjsb7aVFo114.png)
STM32U5开发板ADC校准超时怎么解决?
浅谈时间间隔计数器的定时器间隔测量功能
电流探头校准装置由哪些部件组成?
SOCV/POCV下寄存器的hold margin问题分析
Normal World与Secure World的地址空间隔离是如何实现的
![Normal World与Secure World的地址空<b class='flag-5'>间隔</b>离是如何实现的](https://file1.elecfans.com/web2/M00/A1/98/wKgZomT2hyGACKKfAAAQhX0-Ev4751.png)
数据采集仪采集时间间隔该怎么选择
STM32U5的官方开发板ADC校准超时是什么原因呢?
影像仪测量间隔多少?
![影像仪测量<b class='flag-5'>间隔</b>多少?](https://file1.elecfans.com/web2/M00/8E/36/wKgaomTDZ62AKU8SAACCedBvHVE214.png)
Fluke5700多功能校准仪
![Fluke5700多功能<b class='flag-5'>校准</b>仪](https://file.elecfans.com/web2/M00/A8/F1/pYYBAGR1t_iAQOm1ABGdyVlSZvU587.png)
ZSSC3018 Evaluation Kit and Mass Calibration Sys User 手册
![ZSSC3018 Evaluation Kit and Mass <b class='flag-5'>Calibration</b> Sys User 手册](https://file.elecfans.com/web1/M00/D9/4E/pIYBAF_1ac2Ac0EEAABDkS1IP1s689.png)
评论