0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

百度研究人员攻陷激光雷达!

ml8z_IV_Technol 来源:YXQ 2019-07-14 12:29 次阅读

自动驾驶汽车不仅会被「假路标」误导,开上反向车道,还会无视道路中间的障碍物,直到躲闪不及才能发现。最近密歇根大学、UIUC联合百度提交的一项研究让自动驾驶技术又一次成为了人们关注的焦点。这一次,连性能最好的传感器激光雷达(LiDAR)都被黑掉了,自动驾驶汽车真的安全吗?

用激光雷达进行目标检测是目前自动驾驶汽车用到的主流方法,这种传感器精度高、成本高昂、技术门槛高。如果昂贵的价格能买来安全,那么也能显示其价值。但最近,来自百度研究院、密歇根大学以及伊利诺伊大学香槟分校的研究者提出了一种可以「欺骗」激光雷达点云的对抗方法,对激光雷达的安全性提出了质疑。

深度学习中,为了检测神经网络的鲁棒性,研究者通常会用特定方法生成一些不容易识别或判断的目标对神经网络进行攻击,这些目标被称为「对抗样本」。对抗样本通常是精心设计的输入,伴有小幅度的扰动,目的是诱导神经网络做出错误预测。

上述几位研究者也制作了对抗样本,不过这次是针对激光雷达的。他们提出的对抗方法名为 LiDAR-Adv,如果把用该方法生成的对抗样本打印出来,会得到下图这些奇形怪状的物体。

为了进行物理对照实验,他们还找来了普通箱子作为对照组。

对照组用到的箱子(确定不是 SF 的广告?)

接下来,他们把这些对抗样本和普通箱子分别放置在自动驾驶车行进路径的中央和右侧,观察激光雷达的反应。

将对抗样本和箱子放在路径中央

结果显示,放在路径中央时,配置激光雷达的汽车一直到逼近对抗样本时才检测出该目标,相比之下,该汽车在距离较远时就检测到了作为对照的普通箱子。

将对抗样本和对照箱放在路径右侧。

将物体放在路径右侧时情况更为糟糕,激光雷达直接「无视」了对抗样本。这让我们对自动驾驶汽车的安全性提出了很大的质疑。

容易受攻击的不止是神经网络

用对抗样本「欺骗」自动驾驶汽车的确不是什么新鲜事,如机器之心之前报道过的用「物理攻击」方式欺骗特斯拉的自动驾驶系统。在那项研究中,来自腾讯科恩实验室的研究人员在道路特定位置贴了几个贴纸,就让处在自动驾驶模式的特斯拉汽车并入反向车道。该研究中的对抗样本欺骗的是特斯拉 Model S 中的车道检测系统,即其中的深度神经网络分类器。

深度神经网络(DNN)容易受到对抗样本的攻击,这一点已经被许多研究所证明。为了证明这种攻击在现实世界构成威胁,一些研究提议生成能够迷惑分类器识别停车标志的实体贴纸或可打印贴图,如上述的特斯拉对抗攻击实验。但是,自动驾驶系统并不仅仅是图像分类器。为了获得更清晰的感知影像,大多数自动驾驶检测系统配备有激光雷达或普通雷达(无线电探测与测距)设备,这些设备能够借助于激光束直接探查周围 3D 环境。这就提出了一个疑问:贴图干扰是否会影响激光雷达扫描的点云?

为了回答这一问题,研究者提出了一种基于优化的方法——LiDAR-Adv,以生成可以在各种场景下规避激光雷达检测系统的对抗样本,从而揭露激光雷达自动驾驶检测系统的潜在漏洞。

研究者首先使用一种基于黑盒进化的算法展示了相关漏洞,接着使用基于梯度的方法 LiDAR-Adv 探索强大的对抗样本造成的影响有多大。

为了评估 LiDAR-Adv 在现实世界中的影响,研究者对生成的对抗样本进行 3D 打印,并在百度阿波罗自动驾驶平台上测试它们。结果显示,借助于 3D 感知和产品级多阶段检测器,他们能够误导自动驾驶系统,实现不同的对抗目标。

激光雷达工作原理

在分析研究者提出的对抗方法之前,我们先来了解一下激光雷达的工作原理。

如下图 2 所示,激光雷达传感器首先对 3D 环境进行扫描,获得场景的原始点云。接着,点云通过预处理馈入到检测模型。最后,对检测输出进行后处理,以预测检测结果。

图 2:激光雷达在 AV 上的检测流程图

构建激光雷达对抗样本的难点

基于激光雷达的检测系统由多个不可微分步骤组成,而不是单个的端到端网络,这种端到端网络会极大地限制基于梯度的端到端攻击的使用。

这些关键性障碍不仅令之前的图像方法无效,而且在构建对抗样本时带来如下一些新的挑战:

1)基于激光雷达的检测系统利用实体激光雷达设备将 3D 形状映射到点云上,随后点云馈入到机器学习检测系统。所以,形状扰动(shape perturbation)如何影响扫描到的点云尚不清楚;2)激光雷达点云的预处理过程是不可微的,从而避免了对基于梯度的优化器的不成熟使用;3)扰动空间受到多方面的限制。

首先,研究者需要确保可以在现实世界重建扰动目标。其次,一个目标的有效激光雷达扫描为点云的约束子集,使得扰动空间比无任何约束的点云扰动空间小得多。

LiDAR-Adv 对抗样本构建方法

如下图 1 所示,研究者提出了 LiDAR-Adv 方法,生成针对现实世界激光雷达检测系统的对抗样本。

图 1:LiDAR-Adv 概览图。图上行显示,基于激光雷达的检测系统可以检测到普通的箱子;图下行显示,LiDAR-Adv 生成的类似大小的对抗样本无法被检测到。

首先,研究者模拟了一个可微分的激光雷达渲染器,将 3D 目标的扰动与激光雷达扫描(或点云)连接起来。然后,他们利用可微分的 proxy 函数制作 3D 特征聚合。最后,他们设计不同的损失,确保生成的 3D 对抗样本平滑。

此外,为了更好地展示 LiDAR-Adv 攻击方法的灵活性,研究者在两种不同的攻击场景下对其进行了评估:

1)隐藏目标:合成一个不会被检测器检测到的「对抗样本」;

2)改变标签:合成一个被检测器识别为特定对抗目标的「对抗样本」。

研究者还对激光雷达与黑盒设置下的进化算法做了对比。

方法概览

在场景中给定一个 3D 样本 S,如 background 中所述,并在激光雷达传感器扫描该场景之后根据 S 生成点云 X,所以 X = render(s, background)。在预处理过程中,点云 X 被切割并聚合生成 x,即 H × W × 8 特征向量。研究者将这一聚合过程称为Φ: x = Φ(X)。然后,机器学习模型 M 将 2D 特征 x∈^RH×W×8 映射到 O = M(x),其中 O ∈^RH×W×7。接着,研究者利用聚类过程Ψ对 O 进行后处理,以生成检测到障碍的置信度 y_conf 和标签 y_label,所以 (y_conf , y_label) = Ψ(O)。一个对抗攻击者意图操控样本 S,以实现对抗目标。

研究者将对抗目标分为两类:

隐藏目标:通过操控现有样本 S 来隐藏 S;

改变标签:将检测到的目标 S 的标签 y 改变为特定目标 y'。

在激光雷达检测中实现上述对抗目标并非易事,面临以下三方面问题:

多阶预处理/后处理;

操作约束;

操作空间有限。

针对上述问题,研究者设计了端到端攻击管道。为了方便基于梯度的算法,研究者执行了一个近似可微且模拟激光雷达功能性的渲染器 R,从而使一组预定义射线与包含顶点 V 和倾斜点 W 的 3D 目标平面 (S) 产生交互。

预处理完成后,点云馈入到预处理函数Φ,以生成特征图 x = Φ(X)。接着,特征图 x 作为机器学习模型 M 的输入,以获得输出度量 O = M(x)。整个过程可以表征为 F(S) = M(Φ(R(S)))。

注意,通过微分渲染器 R,整个过程 F(S) = M(Φ(R(S))) 又可微分为 w.r.t. S。通过这种方式,研究者可以操控 S,从而利用最终输出 F(S) 运行的目标函数生成对抗 S_adv。

实验

在实验过程中,研究者实现了「隐藏样本」的目标,并通过基于进化的黑盒算法揭露了激光雷达检测系统存在的漏洞。然后,他们展示了白盒设置下 LiDAR-Adv 方法的定性和定量结果。此外,实验结果表明,LiDAR-Adv 方法还可以实现「改变标签」等其他一些对抗目标。

由于点云在现实场景下是连续捕获的,所以单个静态帧中的攻击可能在现实场景中的影响不大。所以在实验中,针对包含不同方向和位置的 victim 数据集,研究者生成了一个鲁棒的通用对抗样本。他们对这种通用对抗样本进行 3D 打印,并进行真实驾驶实验,从而证明这些样本的确对公路上行驶的自动驾驶车辆构成威胁。

图 3:研究人员生成的不同尺寸对抗样本,在多个激光雷达照射的情况下仍然可以保持不被检测到。

表 1:不同设置下 LiDAR-Adv 方法和基于进化方法的攻击成功率对比。

为了确保 LiDAR-Adv 方法在各种物理条件下保持对抗效果,研究者通过一组物理变换(位置和方向)来进行采样和优化。实验证明了生成的对抗样本具有鲁棒性,可以实现高成功率的隐蔽和攻击。

表 2:在受控和不可见情形下,LiDAR-Adv 方法对于不同位置和方向上攻击的成功率。

除此之外,研究者评估了 3D 打印生成的样本在物理世界的效果。如下图 5(a)所示,自动驾驶系统在 36 个不同帧中并未检测到对抗物体。如下图 5(b)所示,系统在 18 个帧中的 12 个检测到了正方体盒子。由于车速不同,总帧数也有不同。

图 5:物理攻击结果。LiDAR-Adv 方法的 3D 打印硬质对抗物体未被基于激光雷达的汽车检测系统检测到。图第 1 行显示由激光雷达传感器收集的点云数据,第 2 行显示由仪表板处相机捕获的相应图像。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 百度
    +关注

    关注

    9

    文章

    2267

    浏览量

    90350
  • 激光雷达
    +关注

    关注

    968

    文章

    3967

    浏览量

    189808

原文标题:自动驾驶「无视」障碍物:百度研究人员攻陷激光雷达

文章出处:【微信号:IV_Technology,微信公众号:智车科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    激光雷达会伤害眼睛吗?

    随着激光雷达日益普及,人们开始担忧:这种发射激光的设备,对人眼的安全性如何?了解这个问题前,我们首先需要知道激光雷达和它发射的激光,到底是什么。
    的头像 发表于 11-07 10:47 213次阅读
    <b class='flag-5'>激光雷达</b>会伤害眼睛吗?

    激光雷达的维护与故障排查技巧

    激光雷达(LiDAR,Light Detection and Ranging)是一种利用激光进行距离测量和目标识别的技术。它广泛应用于无人驾驶汽车、地理信息系统(GIS)、环境监测、航空航天等领域
    的头像 发表于 10-27 11:04 922次阅读

    激光雷达技术的基于深度学习的进步

    一、激光雷达技术概述 激光雷达技术是一种基于激光的遥感技术,通过发射激光脉冲并接收反射回来的光来测量物体的距离和速度。与传统的雷达技术相比,
    的头像 发表于 10-27 10:57 364次阅读

    如何提升激光雷达数据的精度

    、航空测绘、环境监测等领域。提升激光雷达数据的精度对于提高这些应用的性能至关重要。以下是一些提升激光雷达数据精度的方法: 硬件优化 : 激光发射器 :使用更高功率的激光发射器可以提高信
    的头像 发表于 10-27 10:53 578次阅读

    光学雷达激光雷达的区别是什么

    光学雷达激光雷达是两种不同的遥感技术,它们在原理、应用、优缺点等方面都存在一定的差异。以下是对光学雷达激光雷达的比较: 定义和原理 光学雷达
    的头像 发表于 08-29 17:20 1256次阅读

    激光雷达与毫米波雷达的优缺点是什么

    (LiDAR) 优点: a. 高精度:激光雷达可以提供非常高的空间分辨率,精度可以达到厘米级别,这对于自动驾驶汽车等高精度应用非常重要。 b. 长距离测量:激光雷达可以测量数米甚至上千米的距离,这使得它在高速公路等长距离场景中
    的头像 发表于 08-16 10:02 1225次阅读

    单车4台AT128!禾赛获得百度萝卜快跑新一代无人驾驶平台主激光雷达独家定点

    市场看到了无人驾驶更清晰的发展方向和切实可行的落地模式。 此次在武汉投入运营的无人驾驶车辆采用了百度 Apollo 第五代自动驾驶系统解决方案,搭载了禾赛 Pandar 系列高性能激光雷达作为感知主雷达。而就在今年,更安全、体验
    的头像 发表于 07-21 17:25 522次阅读
    单车4台AT128!禾赛获得<b class='flag-5'>百度</b>萝卜快跑新一代无人驾驶平台主<b class='flag-5'>激光雷达</b>独家定点

    百度萝卜快跑第六代无人车携手禾赛AT128激光雷达,共筑自动驾驶新篇章

    在自动驾驶技术的浪潮中,激光雷达作为感知层的核心部件,正引领着行业向更高水平的智能化迈进。近日,激光雷达领域的佼佼者禾赛科技宣布了一项重要合作——成为百度萝卜快跑第六代无人车主激光雷达
    的头像 发表于 07-19 16:21 1497次阅读

    禾赛科技独供百度Apollo新一代无人车主激光雷达

    近日,禾赛科技宣布获得百度萝卜快跑新一代无人驾驶平台主激光雷达的独家定点供应权,标志着双方在自动驾驶领域的合作迈上新台阶。据悉,今年百度将陆续投放第六代Apollo无人车颐驰06,而这款无人车上的核心感知设备——主
    的头像 发表于 07-18 11:41 1733次阅读

    单车4台AT128!禾赛科技获得百度萝卜快跑新一代无人驾驶平台主激光雷达独家定点

    系列高性能激光雷达作为感知主雷达。 而就在今年,更安全、体验更舒适的第六代百度 Apollo 无人车也将陆续投放市场。搭载百度 Apollo 第六代智能化系统解决方案的萝卜快跑第六代
    的头像 发表于 07-17 17:00 1751次阅读
    单车4台AT128!禾赛科技获得<b class='flag-5'>百度</b>萝卜快跑新一代无人驾驶平台主<b class='flag-5'>激光雷达</b>独家定点

    一文看懂激光雷达

        文章大纲 城市 NOA 成竞争高地,政策助力高阶智能驾驶加速落地 成本下探+智驾升级,2030年激光雷达市场规模有望超万亿       ·城市 NOA面临工况复杂问题,激光雷达为“优选
    的头像 发表于 06-27 08:42 607次阅读
    一文看懂<b class='flag-5'>激光雷达</b>

    激光雷达的探测技术介绍 机载激光雷达发展历程

    机载激光雷达是指安装在飞行器(如飞机、直升机、无人机等)上的激光雷达系统,用于从空中对地面或其他目标进行测量、成像和监测。
    的头像 发表于 03-21 16:49 2915次阅读
    <b class='flag-5'>激光雷达</b>的探测技术介绍 机载<b class='flag-5'>激光雷达</b>发展历程

    激光雷达的应用场景

    激光雷达(LiDAR)的应用场景非常广泛,它由于探测波长短、波束定向性强、能量密度高等特点,具有高空间分辨率、高的探测灵敏,并能分辨被探测物种,且不存在探测盲区。以下是激光雷达的一些主要应用场
    的头像 发表于 03-21 10:38 1058次阅读

    激光雷达LIDAR基本工作原理

    一、激光雷达LiDAR工作原理激光雷达LiDAR的全称为LightDetectionandRanging激光探测和测距,又称光学雷达激光雷达
    的头像 发表于 03-05 08:11 5082次阅读
    <b class='flag-5'>激光雷达</b>LIDAR基本工作原理

    华为激光雷达参数怎么设置

    华为激光雷达是一种常用的传感器技术,可用于距离测量和感应。它的参数设置对于确保其性能和功能至关重要。在本文中,我们将详细介绍华为激光雷达的参数设置以及其影响和应用。 首先,我们需要了解激光雷达
    的头像 发表于 01-19 14:17 1761次阅读