0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

基于配准的少样本异常检测的框架

OpenCV学堂 来源:机器之心 作者:机器之心 2022-07-27 10:27 次阅读

近年来,异常检测工业缺陷检测、医疗诊断,自动驾驶等领域有着广泛的应用。“异常”通常定义为 “正常” 的对立面,即所有不符合正常规范的样本。通常来说,相比于正常,异常事件的种类是不可穷尽的,且十分稀有,难以收集,因此不可能收集详尽的异常样本进行训练。因此,近期关于异常检测的研究主要致力于无监督学习,即仅使用正常样本,通过使用单类别(one-class)分类,图像重建(reconstruction),或其他自监督学习任务对正常样本进行建模,之后,通过识别不同于模型分布的样本来检测异常。

大多数现有的异常检测方法都专注于为每个异常检测任务训练一个专用模型。然而,在诸如缺陷检测之类的真实场景中,考虑到要处理数百种工业产品,为每种产品均收集大量训练集是不划算的。对此,上海交通大学 MediaBrain 团队和上海人工智能实验室智慧医疗团队等提出了一个基于配准的少样本异常检测框架,通过学习多个异常检测任务之间共享的通用模型,无需进行模型参数调整,便可将其推广到新的异常检测任务。目前,这项研究已被 ECCV2022 接收为 Oral 论文,完整训练代码及模型已经开源。

65e396e8-0cf5-11ed-ba43-dac502259ad0.png

方法简介

在这项工作中,少样本异常检测通用模型的训练受到了人类如何检测异常的启发。事实上,当尝试检测图像中的异常时,人们通常会将该检测样本与某个已经被确定为正常的样本进行比较,从而找出差异,有差异的部分就可以被认为是异常。为了实现这种类似于人类的比较的过程,本文作者采用了配准技术。本文作者认为,对于配准网络而言,只要知道如何比较两个极度相似的图像,图像的实际语义就不再重要,因此模型就更能够适用于从未见过的异常检测新任务。配准特别适用于少样本异常检测,因为配准可以非常方便地进行跨类别推广,模型无需参数微调就能够快速应用于新的异常检测任务。

65f7be3e-0cf5-11ed-ba43-dac502259ad0.png

上图概述了基于配准的少样本异常检测的框架。与常规的异常检测方法(one-model-per-category)不同,这项工作(one-model-all-category)首先使用多类别数据联合训练一个基于配准的异常检测通用模型。来自不同类别的正常图像一起用于联合训练模型,随机选择来自同一类别的两个图像作为训练对。在测试时,为目标类别以及每个测试样本提供了由几个正常样本组成的支撑集。给定支撑集,使用基于统计的分布估计器估计目标类别注册特征的正态分布。超出统计正态分布的测试样本被视为异常。

6607af60-0cf5-11ed-ba43-dac502259ad0.png

这项工作采用了一个简单的配准网络,同时参考了 Siamese [1], STN [2] 和 FYD [3]。具体地说,以孪生神经网络(Siamese Network)为框架,插入空间变换网络(STN)实现特征配准。为了更好的鲁棒性,本文作者利用特征级的配准损失,而不是像典型的配准方法那样逐像素配准,这可以被视为像素级配准的松弛版本。

实验结果

在与其他少样本异常检测方法的比较上,RegAD 无论在检测性能、适用到新类别数据的自适应时间上,相比于基准方法 TDG [4] 和 DiffNet [5] 都有显著的优势。这是由于其他的方法都需要针对新的类别数据进行模型的多轮迭代更新。另外,RegAD 相比于没有进行多类别特征配准联合训练的版本(RegAD-L),性能也得到了显著的提升,体现出基于配准的通用异常检测模型的训练是十分有效的。本文在异常检测数据集 MVTec [6] 和 MPDD [7] 上进行实验。更多的实验结果和消融实验可参考原论文。

661ae508-0cf5-11ed-ba43-dac502259ad0.png

此外,作者还展示了异常定位可视化的结果。可以看到,联合训练可以使得模型的异常定位变得更加准确。

6626f6fe-0cf5-11ed-ba43-dac502259ad0.png

T-SNE 的可视化也显示出,基于配准的训练可以使得同类别的正常图像特征变得更加紧凑,从而有利于异常数据的检出。

663e5894-0cf5-11ed-ba43-dac502259ad0.png

总结

这项工作主要探索了异常检测的一个具有挑战性但实用的设置:1)训练适用于所有异常检测任务的单一模型(无需微调即可推广);2)仅提供少量新类别图像(少样本);3)只有正常样本用于训练(无监督)。尝试探索这种设置是异常检测走向实际大规模工业应用的重要一步。为了学习类别无关的模型,本文提出了一种基于比较的解决方案,这与流行的基于重建或基于单分类的方法有很大不同。具体采用的配准模型建立在已有的配准方案基础上,充分参考了现有的杰出工作 [1,2,3],在不需要参数调整的前提下,在新的异常检测数据上取得了令人印象深刻的检测效果。

审核编辑:彭静
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 代码
    +关注

    关注

    30

    文章

    4596

    浏览量

    67330
  • 检测图像
    +关注

    关注

    0

    文章

    3

    浏览量

    5517
  • 自动驾驶
    +关注

    关注

    776

    文章

    13243

    浏览量

    164122

原文标题:ECCV 2022 Oral | 无需微调即可推广,上交大、上海人工智能实验室等提出基于配准的少样本异常检测框架

文章出处:【微信号:CVSCHOOL,微信公众号:OpenCV学堂】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    COD检测仪响应水质异常的速度?

      【JD-LSZ05】山东竞道光电持续更新中....COD(化学需氧量)检测仪在响应水质异常方面的速度是确保水体污染控制和环境保护的重要指标之一。COD检测仪的响应速度受多种因素影响,需要在多个
    的头像 发表于 05-09 16:08 127次阅读

    工业异常检测超越特定阈值限制的解决方案

    异常检测和分割(AD&S)对于工业质量控制至关重要。虽然现有方法在为每个像素生成异常分数方面表现出色,但实际应用需要产生一个二进制分割来识别异常
    发表于 04-09 10:44 180次阅读
    工业<b class='flag-5'>异常</b><b class='flag-5'>检测</b>超越特定阈值限制的解决方案

    基于DiAD扩散模型的多类异常检测工作

    现有的基于计算机视觉的工业异常检测技术包括基于特征的、基于重构的和基于合成的技术。最近,扩散模型因其强大的生成能力而闻名,因此本文作者希望通过扩散模型将异常区域重构成正常。
    的头像 发表于 01-08 14:55 604次阅读
    基于DiAD扩散模型的多类<b class='flag-5'>异常</b><b class='flag-5'>检测</b>工作

    新技术在生物样本冷冻中的应用案例分析

      一、冷冻样本的新技术应用   1. 低温离心   低温离心是一种比较先进的生物样本冷冻处理技术,它可以在较低温度下将样本进行离心,从而有效地分离和保存其中的细胞和分子。相比传统的液氮冷冻方法
    发表于 12-26 13:30

    基于transformer和自监督学习的路面异常检测方法分享

    铺设异常检测可以帮助减少数据存储、传输、标记和处理的压力。本论文描述了一种基于Transformer和自监督学习的新方法,有助于定位异常区域。
    的头像 发表于 12-06 14:57 896次阅读
    基于transformer和自监督学习的路面<b class='flag-5'>异常</b><b class='flag-5'>检测</b>方法分享

    【AIOps】一种全新的日志异常检测评估框架:LightAD,相关成果已被软工顶会ICSE 2024录用

    深度学习(DL)虽然在日志异常检测中得到了不少应用,但在实际轻量级运维模型选择中,必须仔细考虑异常检测方法与计算成本的关系。具体来说,尽管深度学习方法在日志
    的头像 发表于 11-29 17:40 440次阅读

    哈工大提出Myriad:利用视觉专家进行工业异常检测的大型多模态模型

    最近,大型多模态(即视觉和语言)模型(LMM)在图像描述、视觉理解、视觉推理等多种视觉任务上表现出了卓越的感知能力,使其成为更易于理解的异常检测的有竞争力的潜在选择。然而,现有的通用 LMM 中缺乏有关异常
    的头像 发表于 11-21 16:08 920次阅读
    哈工大提出Myriad:利用视觉专家进行工业<b class='flag-5'>异常</b><b class='flag-5'>检测</b>的大型多模态模型

    MSO5204B泰克示波器维修开机异常案例

    近日某院校送修泰克示波器MSO5204B,客户反馈示波器开机异常,对仪器进行初步检测,确定与客户描述故障基本一致。本期将为大家分享本维修案例。 下面就是泰克-MSO5204B维修情况   泰克示波器
    的头像 发表于 09-25 17:19 561次阅读
    MSO5204B泰克示波器维修开机<b class='flag-5'>异常</b>案例

    什么是零样本学习?为什么要搞零样本学习?

    样本分类的技术目前正处于高速发展时期, 所涉及的具体应用已经从最初的图像分类任务扩展到了其他计算机视觉任务乃至自然语言处理等多个相关领域。 对此, 本文将其称为广义零样本分类。 相应地, 我们将针对图像分类任务的零样本分类任务
    发表于 09-22 11:10 1449次阅读
    什么是零<b class='flag-5'>样本</b>学习?为什么要搞零<b class='flag-5'>样本</b>学习?

    基于NanoEdgeAI的异常检测方案

    NanoEdge AI Studio自动创建基于三轴加速度传感器信号的AI模型,并快速部署到ST SensorTile.box开发板上,进行异常检测
    发表于 09-07 06:27

    NUC240_FreeRTOS修改BSP样本代码

    修改 BSP 样本代码, 以在 FreeRTOS 下工作。 FreeRTOS 是一个实时操作系统。 样本代码设定了执行进程样本代码的两项任务 。 您可以在下列时间下载样本代码htt
    发表于 08-31 10:05

    NANO100_FreeRTOS修改BSP样本代码

    NANO100_FreeRTOS 修改 BSP 样本代码, 以在 FreeRTOS 下工作。 FreeRTOS 是一个实时操作系统。 样本代码设定了执行进程样本代码的两项任务 。 您可以在下列时间下载
    发表于 08-31 06:30

    什么是“可解释的人工智能”(XAI)?面向异常检测的“可解释人工智能”(XAI)有哪些案例?

    异常检测是识别某种事物偏离正常和预期情形的过程。 如果能够及早检测异常状况,则可以采取相关纠正措施,避免引发严重后果。儿时的我们玩过谁能在一幅精心编排的图片中识别出怪异情况的游戏,这
    的头像 发表于 08-01 14:54 1527次阅读

    什么是视觉角度的异常检测 用于异常检测的技术有哪些 它在哪里使用

    异常是与常态不同、很少发生并且不符合“模式”其余部分的事件。
    的头像 发表于 07-27 15:15 847次阅读
    什么是视觉角度的<b class='flag-5'>异常</b><b class='flag-5'>检测</b> 用于<b class='flag-5'>异常</b><b class='flag-5'>检测</b>的技术有哪些 它在哪里使用

    使用异常检测识别意外事件以及偏离正常行为的情况

    异常检测是识别与预期行为不同的事件或模式的过程。异常检测范围广泛,从简单的离群值检测,到复杂的机器学习算法,这些算法经过训练可以发现数百个信
    的头像 发表于 07-24 09:59 780次阅读
    使用<b class='flag-5'>异常</b><b class='flag-5'>检测</b>识别意外事件以及偏离正常行为的情况