0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

科恩实验室发布报告,称特斯拉Model S轿车存在三大安全隐患

DPVg_AI_era 来源:lp 2019-04-08 09:53 次阅读

近日,腾讯旗下关注自动驾驶安全的科恩实验室发布报告,称特斯拉Model S轿车存在三大安全隐患,目前的实验和测试表明,特斯拉S型轿车的转向系统、自动雨刮器和车道识别系统均被攻破。特斯拉已发表回应称,转向系统的缺陷已由系统更新修正,其他两处则不属于安全问题,无须担心。

科恩实验室称,已经通过遥控成功干扰了车辆的转向系统。通过对抗性实例成功干扰了智能雨刮器。通过在道路上贴几个小小的胶带,就能成功误导车辆的道路识别系统,将车导航至逆行道上。

对此,特斯拉方面迅速做出回应,并未否认三处缺陷的存在。不过特斯拉同表示,此次曝光的这三处缺陷中,其中一处(转向系统被遥控)已由最新硬件更新修正,而对于另外两处缺陷,则表示科恩实验室的实验场景不可能在现实驾驶场景中遇到,不属于安全问题,无须担心。

以下是科恩实验室报告核心内容的选编,以及特斯拉的逐条回应内容:

腾讯Keen安全实验室一直在进行Tesla车辆安全性研究工作,并在2017和2018年的美国Black Hat上分享了研究成果。 这次利用特斯拉自动驾驶系统(Tesla Autopilot ECU,软件版本18.6.1)的ROOT权限,进行了一些有趣的研究。

简单来讲,实验和测试证明了以下三点:

1、成功远程控制车辆转向系统

2、成功用对抗性实例干扰了自动雨刮器

3、成功误导车辆驶入了反向车道

研究的特斯拉车辆的软硬件信息如下:

车型:Tesla Model S 75

Autopilot硬件版本:2.5 软件版本:2018年6月30日

对车辆转向系统的遥控

APE是特斯拉高级驾驶辅助系统的核心组件,负责辅助驾驶和自动停车模式下的汽车转向系统控制和电子速度控制。这些先进的辅助驾驶功能基于高级视觉和汽车总线(以太网CAN,LIN,FlexRay)系统。

团队采用的方法是动态地将恶意代码注入cantx服务并挂钩cantx服务的“DasSteering Control Message Emitter:: finalize_message()”函数,以重用DSCM的时间戳和计数器来操纵具有任何转向角度值的DSCM信息。

为了将远程攻击链在车辆转向系统上进行可视化,使用游戏手柄演示远程转向控制。游戏手柄的转向控制过程如下图所示:手柄通过蓝牙连接到移动设备。同时,移动设备从游戏手柄接收控制信号,并将信号转换成相应的DSCM。

一旦APE受到安全威胁,cantx服务将定期通过3G / Wi-Fi从移动设备中提取DSCM信息。此外,APE需要不断将实时将车辆转向角度推送至移动设备,以计算出预期的精确转向角度。

•当汽车处于停车状态时,我们可以无限制地控制转向系统

•当通过换档手柄将汽车从R(倒车挡)模式切换到D(驾驶挡)模式时,APE似乎仍然认为汽车处于APC(自动停车控制)模式,这时我们可以在时速不超过约8公里的情况下,继续控制转向系统。

•当汽车处于高速自适应巡航控制模式时,我们也可以无限制地控制转向系统。

•即使汽车不在ACC(自适应巡航控制)模式下,方向盘也有机会被成功控制。

对自动雨刮器的成功干扰

传统的雨刮器系统使用光学传感器检测雨滴。当足够的雨滴撞击挡风玻璃时,反射到传感器上的光量将减少到一定水平,使传感器打开雨刮器。

特斯拉的自动雨刮器系统则使用完全不同的解决方案,该方案基于神经网络模型。实验证实,这种解决方案在某些情况下似乎不如传统方案可靠。

目标是测试特斯拉自动雨刮器的稳健性。团队创建一些条件,使自动雨刮器在挡风玻璃上没有水的情况下自动开启。创建用于“攻击”系统的对抗性示例是一个非常直接的想法,因为整个系统完全基于深度神经网络。

团队选择了电子显示(例如电视,平板电脑)以显示物理世界中的补丁,这很容易执行端到端测试,在真实攻击场景中也更可行。

显示器可以放在道路的一侧,也可以放在前车的后座上(后者中国的出租车上很流行,后窗上经常会显示广告),或摄像头方便捕捉到的其他地方。然后使用优化算法来生成对抗性图片。我们直接用车辆来训练算法并生成实例。

最后一个问题是要找到一种合适的方法来生成电视上显示的图像。我们尝试了另一种叫做Worley噪音的噪音功能。在计算机图形学中,它能够以任意精度自动生成纹理,无需手工绘制。Worley噪声能够模拟石头,水或其他噪音的纹理

我们在电视上播放对抗生成的图像,其效果与向挡风玻璃洒水的效果相同。业内没有关于为何存在这种对抗性实例的统一解释,但众所周知,没有基于神经网络的传统自动雨刮器解决方案不会出现这样的问题。

虽然机器学习代表了技术的未来方向,但从消费者的角度来看,我们希望该技术可以具备更高的稳定性。这部分实验表明,我们可以通过一些算法直接攻击真实世界中的图像识别算法。

对自动寻路系统的攻击:道路欺骗

“消灭”真车道

消除车道攻击旨在通过物理世界中的一些不显眼的标记来禁用APE车道识别。我们使用各种优化算法来改变车道及其周围区域。我们期望找到一个与原始图像差别较小的对抗示例,但可以禁用车道识别功能。这些是我们生成的一些对抗性示例。

APE算法的稳健性较高,这有可能是特斯拉车道识别算法训练集中加入了大量异常车道的信息,匹配真实行车场景中车道的复杂性。这使得特斯拉车道识别系统在良好外部环境(无强光、雨雪、沙尘的干扰)下性能出众。

“添加”假车道

实验显示,只需在道路上贴上几个小小的贴纸(图中红色圆圈所示),就能成功误导自动驾驶系统,使车辆走上对面的车道,造成逆行

之后我们尝试在真实世界中构建这样一个场景:我们在路口处粘贴了一些小贴纸,作为地面上的干扰。我们希望使用这些干扰,将自动驾驶模式下的特斯拉车辆误导到反向车道上。

如上所示的测试场景显示,图中的红色短线是贴纸,车辆将其视为右侧车道的延续,并忽略交叉路口对面的的实际左侧车道。当它行驶到交叉路口的中间时,会将真正的左车道作为右车道行驶,造成逆行。

结论

我们对特斯拉汽车APE上的CAN总线系统,然后使用游戏手柄通过无线网络驱动汽车,这表明攻击者在进入APE模块后可能造成的潜在安全威胁。

我们通过静态逆向工程和动态调试分析了APE的视觉系统。根据研究结果,我们在真实世界中进行了一些实验测试,并成功使特斯拉APE在我们的攻击下表现异常。这表明,通过一些真实环境下的干扰,我们可以在某种程度上实现远程控制车辆。

我们希望制造商能够关注这些测试所暴露的潜在产品缺陷,并提高其面向消费者的汽车产品的稳定性和可靠性。

特斯拉回应:未否认问题存在,但不属于安全问题,无须担心

关于 “雨刷的视觉识别缺陷”(成果一)的回应:

“实验通过在直接放置在汽车挡风玻璃前面的电视上显示图像。司机实际驾驶不会出现这种情况,此缺陷也不属于安全问题。此外,我们在“用户手册”中已经表明,“我们的挡风玻璃雨刮器的自动设置目前处于测试阶段。”客户可以随时选择使用手动挡风玻璃雨刮器的设置。

关于 “车道的视觉识别缺陷”(成果二)的回应:

“在这次演示中,研究人员调整了车辆周围的物理环境(例如在道路上放置贴纸),让自动驾驶模式下的汽车动作出现差异。由于驾驶员可以随时使用方向盘或刹车轻松接管自动驾驶系统,所以这个问题在现实场景中也无需担心。“

关于 “遥控器操控车辆行驶”(成果三)的回应:

“报告中提到的这一漏洞已由特斯拉在2017年强大的安全更新修复,随后在2018年又一次进行了全面安全更新,在此报告发布前,技术团队已经发布了安全更新。我们尚未收到一位客户受到本报告中任何研究的影响。”

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 计数器
    +关注

    关注

    32

    文章

    2254

    浏览量

    94374
  • 特斯拉
    +关注

    关注

    66

    文章

    6296

    浏览量

    126477
  • 系统控制
    +关注

    关注

    0

    文章

    33

    浏览量

    16218

原文标题:几张贴纸让车改道,游戏手柄控制驾驶,特斯拉被曝三大漏洞

文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    TCL智能终端安全实验室获TÜV南德双项资质认证

    近日,TCL智能终端安全实验室传来喜讯,成功获得国际权威第方检测认证机构TÜV南德意志集团授予的两大重要资质:首个网络安全标准ETSI EN 303 645 CB CTF
    的头像 发表于 10-30 17:40 397次阅读

    LIMS实验室管理平台的实施步骤

    的步骤: 1. 需求分析 在实施LIMS之前,首先需要进行需求分析,以确定实验室的具体需求。这一步骤包括: 调研实验室流程 :了解实验室的日常工作流程,包括样品接收、测试、数据记录、报告
    的头像 发表于 10-29 09:10 207次阅读

    实验室数据管理与LIMS平台的关系

    实验室数据管理(Laboratory Data Management)是指对实验室产生的数据进行收集、存储、处理、分析和报告的过程。这包括了样品的接收、测试结果的记录、质量控制数据的跟踪以及最终
    的头像 发表于 10-28 18:10 412次阅读

    如何选择合适的LIMS实验室管理软件

    选择合适的实验室信息管理系统(LIMS)对于确保实验室的效率、准确性和合规性至关重要。 需求分析 : 确定实验室的具体需求,包括测试类型、样品管理、数据报告、分析方法、质量控制等。 考
    的头像 发表于 10-28 16:56 184次阅读

    是德科技设备安全研究实验室完成智浦首个CCC数字钥匙小程序认证

    实验室Riscure Security Solutions宣布,已成功完成了对智浦半导体首个符合汽车连接联盟(CCC)标准的数字钥匙小程序(DKA)的认证,这一里程碑式的成就标志着两家公司在推动汽车数字钥匙技术发展上的卓越贡献。
    的头像 发表于 08-14 11:24 578次阅读

    实验室精密仪器防雷安全方案

    实验室中的精密仪器在雷电活动期间容易受到雷电波的影响,导致仪器损坏甚至人身安全事故。因此,做好防雷安全措施至关重要。本文将从使用浪涌保护器、防雷接地方案以及综合措施等方面探讨如何保护实验室
    的头像 发表于 08-14 11:15 254次阅读
    <b class='flag-5'>实验室</b>精密仪器防雷<b class='flag-5'>安全</b>方案

    基于STM32单片机的实验室智能安防系统

    针对高校实验室的安防需求,确保及时消除安全隐患,最大限度减少实验室安全事故,保障校园安全、生命和财产安全
    的头像 发表于 06-21 08:11 1201次阅读
    基于STM32单片机的<b class='flag-5'>实验室</b>智能安防系统

    高校实验室无线物联网用电安全系统设计与应用

    终端和实验室用电安全管理云平台对实验室配电柜进行实时监测和异常报警,从而及时、准确地发现故障隐患。采用大数据分析技术对实验室用电监测数据进行
    的头像 发表于 06-18 10:20 339次阅读
    高校<b class='flag-5'>实验室</b>无线物联网用电<b class='flag-5'>安全</b>系统设计与应用

    无损检测有哪些安全隐患

    无损检测技术在航空、航天、核电、石油、化工、机械制造等领域具有重要应用。然而,由于操作不当、设备故障、环境因素等原因,无损检测过程中可能存在安全隐患。本文将详细分析无损检测中的安全隐患,并提出相应
    的头像 发表于 05-27 14:58 1470次阅读

    智浦首个云实验室正式上线运营

    智浦半导体近日宣布,其首个全线上实验室——人工智能创新实践平台云实验室已正式上线。这一创新举措旨在为全球用户提供前所未有的便捷体验。
    的头像 发表于 05-06 11:03 567次阅读

    创新打造云生态 智浦首个云实验室正式上线运营

    智浦半导体近期宣布其首个全线上实验室——人工智能创新实践平台云实验室正式上线运营。这一创新举措标志着智浦在打造云生态领域迈出了坚实的一步,对于推动行业发展具有深远的影响。
    的头像 发表于 04-29 11:30 722次阅读

    智浦首个云实验室正式上线运营

    中国苏州——202 4 年 4 月 23 日—— 智浦半导体(NXP Semiconductors N.V.,纳斯达克代码:NXPI)今日宣布其首个全线上实验室——人工智能创新实践平台 云实验室
    的头像 发表于 04-24 11:36 881次阅读
    <b class='flag-5'>恩</b>智浦首个云<b class='flag-5'>实验室</b>正式上线运营

    爱立信消费者实验室报告发布

    近日,爱立信发布了最新一期《爱立信消费者实验室报告》,该报告首次在全球范围内对消费者对5G固定无线接入(FWA)的看法进行了深入调查。该研究覆盖了19个国家,代表了12亿人居住区域的3
    的头像 发表于 03-06 09:19 693次阅读

    韩国召回7.2万辆特斯拉汽车,Autopilot系统存安全隐患

    问题车辆占据总召回车辆数的88%,且大部分问题主要来源于特斯拉的Autopilot系统。这一先进的驾驶员辅助系统可以自行识别周围环境,并调整车速、维持安全间距及转换车道,但经检测发现其存在潜在
    的头像 发表于 01-08 10:12 445次阅读

    电子与海信联合揭牌新型显示技术实验室

    近日,广东晶电子股份有限公司(简称:晶电子)与海信视像科技股份有限公司(简称:海信)正式宣布共同创立的新型显示联合实验室的诞生。这个联合实验室标志着两家企业在推动显示技术发展上达成
    的头像 发表于 12-28 15:48 615次阅读