探讨自动驾驶汽车的安全性问题

“安全”在自动驾驶语境里有两层意思。第一层是Safety（安全）。例如传感器360度无死角覆盖、多种传感器融合、感知算法精准、感知—控制反馈实时。第二层是Security（保密）。一方面，日益复杂的算法和功能要求通用操作系统能够在车上使用；另一方面，联网的需求使汽车直接暴露在网络上，黑客通过车载联网娱乐系统可以轻松攻破并控制汽车。

目前国内外正在研制“无人车”，不同程度上都有人的参与，严格地讲，有的属于自动辅助驾驶，根据目前的人工智能技术，这类车辆有可能在短期内走向实用；而真正的无人车，特别是在开放环境（如繁忙的街道）下行驶的智能车辆，目前的人工智能技术还难以解决其面临的困难问题，短期内还难以走向实用。其中，安全性问题即是其中之一。

中国智能车大会暨国家智能车发展论坛在江苏常熟举行。大会同期，由国家自然科学基金委员会主办的第八届“中国智能车未来挑战赛”（IVFC）也如期举办。来自高校、科研机构和企业的23支车队前来挑战22公里的“真实高架快速道路测试”（限速60km/h）和6公里的“城区道路测试”（限速40km/h）。比赛中出现的两个插曲，颇值得深思。

挑战赛中的小插曲

先是，在12日的“真实高架快速道路测试”比赛上，为了保障不发生恶性意外，大赛允许参赛车的驾驶位上有人，同时在车内安装监控，来判断比赛中车上人员是否对车子提供了帮助。赛前，前来直播此次赛事的工作人员提出，在比赛中拍一段智能车无人行驶的镜头，以告诉电视观众这是真正的无人驾驶。这本是“露脸”的好机会，然而，排在前面的参赛队婉拒了这一请求，以技术准备不足为由掉头驶出比赛首车出发位置。

本报记者听闻此事后先是一阵错愕，但在翌日的“城区道路测试”中，接连发生的几起意外让记者感到情有可原。

先是武汉大学的“途e号”刚起步掉头就直接爆胎，汽车磕在路肩，换备胎后才得以继续比赛；再是北京理工大学“特立笃行队”在比赛起点几次发动都没有成功，只好调换比赛顺序；最惊魂一幕出现在下午两点半，长安大学“智能车队”在刚起步的短短3分钟内，两次失控驶向人行道路，观看比赛的数百名观众为之捏汗。

“理论上无人驾驶一段距离应该问题不大。但是谁又愿意冒那个风险？虽然说理论上可行，但万一呢？更何况在高架快速道路上的车速比在城区道路上还要快。”中国智能车大会上一位不愿透露姓名的学者告诉记者，自动驾驶还在测试阶段，安全第一。

两层“安全”

“人具有模糊处理的能力，驾车时需要掌握10米精度就可以了；但智能驾驶没有，它需要10厘米的精度。”谈到自动驾驶的安全可靠性，驭势科技创始人兼CEO吴甘沙在国家智能车发展论坛的报告中如是说。

尽管智能驾驶自来被认为是减少交通事故发生的有效手段，但自从特斯拉无人车发生致命车祸事故以来，无人车的安全问题被无限放大。并且，自动驾驶汽车的安全问题远不止于此。

吴甘沙近期一篇刊载于《中国计算机学会通讯》上的文章，系统地分析了自动驾驶语境下的安全问题。

“‘安全’在自动驾驶语境里有两层意思。第一层是Safety（安全）。例如传感器360度无死角覆盖、多种传感器融合、感知算法精准、感知—控制反馈实时、软硬件多层冗余、温度范围大、防震、防尘等。汽车行业对功能安全也有ISO 26262标准，整个流程执行下来会让IT工程师‘易筋洗髓’‘脱一层皮’。第二层是Security（保密）。一方面，日益复杂的算法和功能要求通用操作系统能够在车上使用；另一方面，联网的需求使汽车直接暴露在网络上，黑客通过车载联网娱乐系统可以轻松攻破并控制汽车。”吴甘沙在上述文章中写道。

针对第一层安全问题，特斯拉在致命车祸的抗辩中指出，特斯拉autopilot已经行驶1.3亿英里，这是第一起致死事故，而世界范围内每行驶6000万英里就有一次致死事故，美国的平均数字是9400万英里，因此自动驾驶更加安全。

“虽然我是自动驾驶的拥趸，但必须指出，这一论据并不充分。”吴甘沙说，1.3亿英里、不到1年的上路时间、10万辆左右的数量，这仍是非常小的数据样本。“换言之，只要特斯拉明天再出一起致死事故，拿美国均值做标准就不及格了。”

著名智库兰德公司的研究报告指出，要在数学意义上证明自动驾驶比人驾驶更安全，需要测试上百亿英里、几百年的时间。

“这是全世界任何一个车厂都无法完成的任务。然而人们不会因为某家车厂没有达到理论上的低死亡率而不尝试自动驾驶。”吴甘沙说，但如果某家车厂能够用更多的里程来证明自动驾驶更安全，则毫无疑问将获得更多的青睐。

信息安全未雨绸缪

针对第二层安全，北京航空航天大学交通学院副教授余贵珍在同期举行的国家智能车发展论坛上专门以《智能汽车与信息安全》为题作了探讨。他称，智能汽车作为“四个轮子的电脑”，其使用的计算和联网系统沿袭了既有的计算和联网架构，也继承了这些系统天然的安全缺陷。

“最新汽车上至少100台车载电脑，运行6000万行代码，而无人驾驶则运营着2亿行以上的代码。”余贵珍说，智能车采用“感知—决策—控制”来代替人对机械部分直接控制，传感器和智能控制等信息设备潜在地增加了信息危险面。此外，“V2X”（车联网）无线通信将会带来新的信息安全问题，汽车的电动化也将带来更多的信息安全问题。

如何破解这些安全风险？吴甘沙建议，首先要仔细梳理和定义自动驾驶系统的安全需求，进行风险分析，建立具有可信计算基础的软硬件平台，采用分域、虚拟化等机制隔离关键模块，通过加密保护端到端的数据通路。其次，要实践全新的安全设计方法学，安全始于设计，从确认设计到验证实现，都要考量安全性；在运行时，是否足够安全，能否抵御攻击，能否在线升级、保证软件最新，系统出现单点故障是否有足够的冗余？万一系统沦陷，有没有办法强力终止攻击，或重获控制权。

“开发智能网联汽车必须要开发其他相关技术，重要的一点就是主、被动安全技术。”广汽研究院院长黄向东在国家智能车发展论坛上的报告中也称，安全是大家现在比较关心的新技术，“网络技术、电子技术的作用特别大”。

此外，吴甘沙提出，如果未来存在一个安全信息市场，安全研究人员或白帽黑客发现安全缺陷，可以通过市场将该信息卖给主机厂商或技术供应商。
       责任编辑：tzh