全球首例自动驾驶车祸判决,愿景与现实之间的裂痕如何弥补?

科技云报道 2019-12-06

近日,美国国家运输安全委员会(NTSB)正式公布去年三月Uber自动驾驶车祸事件的原因,这是全球首例也是目前唯一一例自动驾驶车祸原因正式确认。NTSB认为,车祸主要原因在人,而非技术。

因为Uber淡薄的安全意识,导致车辆没有开启紧急制动系统,没有及时对安全员进行监督,事故发生时,车上安全员仍在看视频而非及时采取措施。

因对自动驾驶的安全问题处理不当,Uber受到NTSB主席罗伯特·萨姆沃特批评,同时自动驾驶系统的失控和安全员的不当行为指向一个更深层次问题——Uber的无效安全文化。

这堪称是自动驾驶短暂发展史上的一个里程碑式事件,这一事件将为此后如何避免类似事故提供了前车之鉴。

自动驾驶车祸

敲响Uber安全文化的警钟

2018年3月,在美国亚利桑那州坦佩市,搭载了Uber自动驾驶系统的测试车正在以70km/h的速度行驶,行驶中不幸与过马路的49岁女子伊莱恩·赫兹伯格相撞,导致该女子身亡。

该事件后,NTSB公布了Uber去年自动驾驶车祸事件中的一些细节,以及Uber自动驾驶以往的一些碰撞事故。文件显示,Uber的自动驾驶汽车在发生撞击前5.6秒钟就检测到了行人,但将其错误识别为汽车,撞击前5.6秒时又将其归类为其他物体。

此后系统对物体的分类发生了混乱,在“汽车”和“其他”之间摇摆不定,浪费了大量宝贵时间,车辆也因此没有及时刹车。加之当时车上的安全员正在观看电视节目,并未采取措施,最终导致事故发生。

NTSB报告还指出,造成事故的关键问题是,软件无法正确预测受害者的类别和运动轨迹。如果系统可以及早正确地识别出前方物体是行人,就可能会大幅放慢速度,或者设法绕开避让。

但是Uber汽车没有预料到这起碰撞,系统在很长一段时间里把行人当做是某个未知的物体,认为它并不妨碍行驶。

Uber自动驾驶汽车在识别到行人后1秒才开始制动,此时距离碰撞只有0.2秒,事故已经无法避免。自动驾驶系统之所以行动如此迟缓,是因为Uber认为紧急制动系统会造成车辆的不稳定,所以关闭了该系统。

如果Uber从一开始就选择开启紧急制动系统,那么类似的悲剧则很有可能不会发生。此外,NTSB报告还显示,在2016年9月至2018年3月之间,Uber的自动驾驶汽车共发生37起碰撞事故,有两起事故是车辆撞到了路边的物体,其他的事故则都是追尾和车辆刮蹭。

事故发生后,Uber踩下自动驾驶“刹车键”,重新思考安全问题:此事发生一个月多后,Uber关闭亚利桑那州无人驾驶测试中心,并裁掉300名员工;

同年7月,其无人卡车研发业务也被关停;沉寂大半年后,这家公司才带着更新后的软件,以及新增加的限制与安全保障措施,于年底恢复路测。

技术本无对错

避免掉进技术编织的美好陷阱

Uber公司忽视安全的严重性更在于,既停用了该辆沃尔沃汽车的自动紧急制动系统,同时Uber自己的系统也没有自动刹车的能力,仅仅依靠一名人类安全员来刹车。

同时,Uber也没有及时监测安全员的工作状况。因为,Uber车内装有摄像头主要是监控司机,但没有监控到安全员的行为,以确保他们对车辆的行驶状况保持警惕。这等于多重安全防线的失守。

Uber对安全文化的淡漠,导致员工也可能无法得到安全文化的培训,这体现在车上的安全员并没有注意车辆行驶的情况,而是放心大胆地在车上看视频,以为把一切交给智能机器就能高枕无忧。

这种情况不只是出现在Uber公司,可以说,在世界上研发、使用机器的所有工厂、公司和所有地方,都或多或少存在这种情况,把一切放心地交付给机器,认为机器和AI比人更可靠,既能预测事故,又能避免事故。

然而,这是一种非常离谱的思维,尤其在进入AI时代,如果把一切交由AI来判断和执行,终将酿成大错。

刘易斯·芒福德的《技术与文明》一书曾提出,人类发明和依靠机器,实际上也深深地改变甚至强制了人类自己。

如果说,人类依靠机器和技术摆脱了自然的完全控制,却反过来掉入了机器和技术的控制之中,把一切都交由机器和技术来操作和控制。机器和技术取决于人对其利用的好坏,如果利用得好,是造福人类,如果利用不好,则会祸害社会。

过去只是认为,让技术,如武器不分青红皂白地杀人,是坏的利用。但殊不知,放心地把一切交由技术来控制其实也是技术坏的利用的一个方面。

Uber和安全员把操控汽车的所有权都交与自动驾驶软件,并由此引发致人死亡的车祸就一个明证。

如今,Uber正逐渐走出全球首例自动驾驶致行人死亡事故的“阴霾”。其表示,将在自动驾驶方面再投资10亿美元。如此庞大的支出,赌的是不确定的未来。Uber自身也表示,自动驾驶技术的研发耗资大、难度高,并不能保证这一投资能够达到预期效果。

对这项技术未来的不确定,也使摩根士丹利将自动驾驶“领头羊”Waymo的估值下调了40%。今年9月,该公司将Waymo的估值从1750亿美元下调至1050亿美元。

对于下调原因,摩根士丹利分析师称,自动驾驶行业的发展速度慢于预期,同时预计Waymo未来一段时间内对安全员具有持续需求,该公司的亏损将继续扩大。

除科技公司外,车企也愈发谨慎。沃尔沃原计划在2017年推出100辆自动驾驶的SUV ,后延期至2021年;福特CEO吉姆·哈克特也公开承认公司高估了自动驾驶汽车的到来,自家“2021年推出全自动驾驶汽车”的计划可能有所推迟;

通用旗下自动驾驶公司Cruise CEO丹·阿曼甚至专门为此发布了一篇长文博客,暗示公司将推迟今年年底推出无人驾驶出租车的计划。

虽然车祸的余波已经过去,但这场车祸调查结果同时也指出了一个问题,现在的自动驾驶技术并非此前所认为的那样,已趋于成熟和安全。

即便自动驾驶技术能过关,也能完全识别路上的行人,我们同样要强调安全文化,把人的安全放在第一位,而且不能把一切全部交给AI来控制和执行。在研发相关技术的同时,更要注重相关的安全风险管理,只有从意识上加以重视,才能真正防患于未然。

【科技云报道原创】

微信公众账号:科技云报道

(免责声明:此文内容为第三方自媒体作者发布的观察或评论性文章,所有文字和图片版权归作者所有,且仅代表作者个人观点,与极客网无关。文章仅供读者参考,并请自行核实相关内容。投诉邮箱:editor@fromgeek.com)

来源:科技云报道

标签云计算
  • 科技云报道
    邮箱:caoceng@fromgeek.com
    有10年以上科技在记者、云计算专家倾情加盟,世界500强与4A公司营销人所组成的前沿科技媒体,深入报道云计算、人工智能、大数据、AR/VR等垂直领域
    分享本文到