0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

15倍加速!SuperCluster:最强3D点云全景分割!

3D视觉工坊 来源:3D视觉工坊 2024-01-22 14:03 次阅读

1. 写在前面

今天笔者为大家推荐一篇最新的开源工作SuperCluster,实现了大型三维点云的全景分割,可以在一次推理中处理包含数百万个点和数千个对象的场景。在仅有209k个参数的情况下,SuperCluster比SOTA方法小30多倍,训练速度快15倍。

下面一起来阅读一下这项工作

2. 摘要

通过将该任务重新定义为可扩展的图聚类问题,我们介绍了一种高效的方法用于大型三维点云的全景分割。该方法可以仅使用局部辅助任务进行训练,从而省去了训练过程中资源密集型的实例匹配步骤。此外,我们的公式可以很容易地适应超点范式,从而进一步提高其效率。这使得我们的模型可以在一次推理中处理包含数百万个点和数千个对象的场景。我们的方法,称为SuperCluster,在两个室内扫描数据集上取得了最新的全景分割性能:S3DIS Area 5为50.1 PQ ( + 7.8 ),ScanNetV2为58.7 PQ ( + 25.2 )。我们还为两个大规模移动建图基准:KITTI - 360和DALES设置了第一个最先进的基准。在仅有209k个参数的情况下,我们的模型比最好的竞争方法小30多倍,训练速度快15倍。

3. 效果展示

S3DIS Area 5的大规模全景分割结果,共有9.2 M个点( 78M预采样)和1863个真实"物"对象。SuperCluster可以在3.3秒内在单块V100 - 32GB GPU上一次推理处理如此大的扫描,并达到50.1的PQ值。

faa05c00-b8c3-11ee-8b88-92fbcf53809c.jpg

四个数据集的全景预测结果。

faae49be-b8c3-11ee-8b88-92fbcf53809c.jpg

4. 具体原理是什么?

SuperCluster对一个包含两个物体(椅子和沙发)的简化场景的操作顺序:子图( a )展示了第一阶段,其中点云被分割成具有简单几何形状的连通超点。在子图( b )中,预测每个超点的语义类分布。在子图( c )中,预测每一对相邻超点的对象一致性,表明它们属于同一个对象的可能性。子图( d )展示了一个图聚类问题的输出,该问题在对象之间的转换处切割边的同时,合并了具有兼容类分布和对象一致性的超点。由此产生的超点簇定义了全景3D分割的实例。

fab75dec-b8c3-11ee-8b88-92fbcf53809c.jpg

超点对象Agreement:对每一对相邻的超点( s , t)计算一个对象一致性分数。这个值是由s和t以及它们的多数对象obj ( t )和obj ( s )之间的平均重叠率定义。

fac5a8ca-b8c3-11ee-8b88-92fbcf53809c.jpg

5. 和其他SOTA方法的对比

S3DIS Area 5上SOTA语义分割方法的语义( SS )和全景分割结果,提供了两个全景度量,将所有类别视为"事物" ( PS -- no "stuff"),将墙壁、天花板和地板视为"物品" ( PS )。

faccebd0-b8c3-11ee-8b88-92fbcf53809c.jpg

6. 总结

这篇文章引入了SuperCluster,一种用于大规模点云的三维全景分割的新方法。作者将这个任务设计为可扩展的图聚类问题,绕过了当前全景分割方法中的一些计算密集型步骤。SuperCluster在S3DIS,ScanNet,KITTI - 360和DALES在内的多个基准测试集上达到了最先进的性能,同时显著地更小,可扩展,更容易训练。

审核编辑:黄飞

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4701

    浏览量

    128705
  • 数据集
    +关注

    关注

    4

    文章

    1205

    浏览量

    24644

原文标题:15倍加速!SuperCluster:最强3D点云全景分割!

文章出处:【微信号:3D视觉工坊,微信公众号:3D视觉工坊】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    基于3D的多任务模型在板端实现高效部署

    对于自动驾驶应用来说,3D 场景感知至关重要。3D数据就是具有3D特征的数据。一方面,3D
    的头像 发表于 12-28 16:35 1385次阅读
    基于<b class='flag-5'>3D</b><b class='flag-5'>点</b><b class='flag-5'>云</b>的多任务模型在板端实现高效部署

    基于深度学习的方法在处理3D进行缺陷分类应用

    背景部分介绍了3D应用领域中公开可访问的数据集的重要性,这些数据集对于分析和比较各种模型至关重要。研究人员专门设计了各种数据集,包括用于3D形状分类、
    的头像 发表于 02-22 16:16 1021次阅读
    基于深度学习的方法在处理<b class='flag-5'>3D</b><b class='flag-5'>点</b><b class='flag-5'>云</b>进行缺陷分类应用

    如何同时获取2d图像序列和相应的3d

    如何同时获取2d图像序列和相应的3d?以上来自于谷歌翻译以下为原文How to obtain the sequence of 2d im
    发表于 11-13 11:25

    3D技术介绍及其与VR体验的关系

    ;x>nkedIn上发表了一篇跟澳大利亚科技公司优立(Euclideon)所使用的数据有关的文章,并在业内引起了一番讨论。 1. 的问题
    发表于 09-15 09:28 20次下载

    问题的介绍及3D技术在VR中的应用

    1. 的问题 是由3D扫描硬件收集的数据,如FARO的Focus 3D激光扫描仪和Shi
    发表于 09-27 15:27 17次下载

    实现快读高效且稳健的3D稀疏分割

    在进行分割之前,需要从扫描的数据中移除地面。这种地面移除的方法,只是把低于车辆高度的3D移除。这种方法在简单的场景中起作用,但是如果在
    的头像 发表于 11-16 16:45 5879次阅读

    3D的感知技术及实践

    测量表面法向量估计 几何测量平面提取 3D重建从离散得到光滑曲面 3D重建ICP配准
    的头像 发表于 10-23 09:40 3175次阅读
    <b class='flag-5'>3D</b>的感知技术及实践

    3D全景线上博物馆展厅的优势是什么

    3D全景线上展厅VR虚拟博物馆可视化在线展馆以公共服务需求为核心,为客户通过无处不在的服务。 商迪3D运用3D全景技术和VR虚拟技术打造的
    的头像 发表于 05-10 14:13 5348次阅读

    何为3D语义分割

    融合标注使用的3D标注工具仍以3D立体框为主,但在3D数据以外,还需要使用2D标注工具在
    的头像 发表于 07-21 15:52 8543次阅读

    首个无监督3D物体实例分割算法

    本文旨在寻求一种无监督的3D物体分割方法。我们发现,运动信息有望帮助我们实现这一目标。如下图1所示,在左图中的蓝色/橙色圆圈内,一辆汽车上的所有点一起向前运动,而场景中其他的则保持静止。那么理论上,我们可以基于每个
    的头像 发表于 11-09 15:15 2240次阅读

    分割相较图像分割的优势是啥?

    自动驾驶领域的下游任务,我认为主要包括目标检测、语义分割、实例分割全景分割。其中目标检测是指在区域中提取目标的候选框并分类,语义分割是对区
    的头像 发表于 12-14 14:25 2650次阅读

    3D数据集在3D数字化技术中的应用

    随着计算机视觉技术的不断发展,3D 数字化技术已经成为了当今工业制造领域和三维医学影像领域的关键技术。然而,构建高精度、高分辨率的 3D 数据集对于实现这一技术至关重要。在这篇文章
    的头像 发表于 05-06 16:46 1370次阅读

    自动驾驶3D语义分割数据标注

    在自动驾驶环境感知系统中,如何获取高精度实时路况数据,是决定自动驾驶系统行车安全的关键。 目前主流的两种感知技术路径“纯视觉”与“高精地图+激光雷达”中,由于激光雷达采集的3D路况数据更为密集
    发表于 06-06 09:48 3次下载
    自动驾驶<b class='flag-5'>3D</b><b class='flag-5'>点</b><b class='flag-5'>云</b>语义<b class='flag-5'>分割</b>数据标注

    基于3D障碍物检测介绍

    基于3D障碍物检测 主要有以下步骤: 数据的处理 基于
    的头像 发表于 06-26 10:22 925次阅读
    基于<b class='flag-5'>点</b><b class='flag-5'>云</b>的<b class='flag-5'>3D</b>障碍物检测介绍

    基于深度学习的3D实例分割方法

    3D实例分割3DIS)是3D领域深度学习的核心问题。给定由云表示的 3D 场景,我们寻求为每
    发表于 11-13 10:34 2183次阅读
    基于深度学习的<b class='flag-5'>3D</b><b class='flag-5'>点</b><b class='flag-5'>云</b>实例<b class='flag-5'>分割</b>方法