自动驾驶的隐忧与挑战

自动驾驶汽车

但是否有人正在采取

蒂姆·莫恩

92
本文档由funstory.ai的开源PDF翻译库BabelDOCv0.5.10(http://yadt.io)翻译，本仓库正在积极的建设当中，欢迎star和关注。

ne’s ing
将重塑城市， 如何控制？

未来主义的底特律，通过杨和莫恩的短 片《城市无法看见的地方》中自动驾驶 汽车的激光雷达扫描机器视觉呈现。

利亚姆·杨和蒂姆·莫恩，《城市无法看见的 地方》，底特律，2016年

93
当我于2018年5月坐下来撰写本文时，又一起涉及自动驾驶汽车的 事故消息传出。一辆特斯拉ModelS撞上了停在加利福尼亚州拉古 纳海滩的一辆警车，驾驶员声称当时车辆处于自动驾驶辅助系统 状态。1自动驾驶辅助系统是特斯拉对其半自主驾驶模式的称呼， 该公司喜欢将其称为一种高级巡航控制。事故发生后，公司在一 份新闻声明中再次重复了其越来越熟悉的说法：‘特斯拉一直明 确表示，自动驾驶辅助系统并不能使车辆免于所有事故’。2同月 早些时候，美国国家公路交通安全管理局（NHTSA）派出一个团 队调查一辆特斯拉汽车在犹他州南乔丹发生的碰撞事故，该车撞 上了一辆在红灯前停下的消防车。警方报告称，车辆数据显示， 自动驾驶辅助系统在碰撞发生前不到90秒被启用。3该机构还在调 查去年一月份另一起事故，一辆处于自动驾驶辅助系统的特斯拉 再次撞上了一辆停放的消防车。4

幸运的是，这些事件中没有人死亡。但美国国家公路交通安 全管理局（NHTSA）正在调查今年3月发生的一起致命车祸，当 时一辆在加利福尼亚州山景城使用自动驾驶辅助系统的特斯拉 ModelX撞上了高速公路的隔离带5 。截至本文撰写时，这是第四 起自动驾驶汽车的致死事故，也是第三起特斯拉汽车的致死事故。

这对神童埃隆·马斯克的汽车公司来说时机极为不利，因为这家汽 车制造商正面临越来越多质疑其财务可行性的传闻和报道。该公 司一直在努力降低价格并保持强劲的市场份额，同时眼看着使其 建立声誉的技术创新——电力驱动和自动驾驶辅助系统等先进的高 科技功能——逐渐成为规模更大、更主流且更成熟的竞争对手车型 上的标准配置。而它最不需要的就是人们认为其车辆可能与其生 产线一样存在安全隐患（2017年的一份职业安全报告表明，特斯 拉弗里蒙特工厂的受伤率比全美行业平均水平高出31%，三年内 救护车前往该工厂的次数超过100次）7。6

无人驾驶汽车有望 成为一种诱人且不可避 免的技术，将以多种方 式改变我们的城市。但 作者兼记者蒂姆·莫恩问 道，我们真的为即将到 来的一切做好准备了吗， 还是说我们早已在方向 盘前睡着了？

詹姆斯·布里德尔，自主陷阱 001，帕尔纳索斯山，希腊中部， 2017年
通过快速部署道路标记——以盐圈的 形式——詹姆斯·布里德尔使自动驾驶 汽车的视觉系统误认为其周围全是禁 行点。

94
自动驾驶安全：现在下结论还为时过早
自动驾驶倡导者以及马斯克在社交媒体上的忠实粉丝们声称， 这项技术仍处于非常早期的阶段，但从长远来看有望比人类驾 驶员安全得多，这种说法有一定潜在合理性。问题在于，现在 判断这一点还为时过早。衡量自动驾驶汽车与人类驾驶员安全 水平的一个关键行业指标是每行驶1亿英里发生的死亡事故数。 目前人类驾驶员约为1.8起fatalities，但就自动驾驶汽车而言， 我们尚未积累足够多的数据；要想进行切实的比较，自动驾驶 汽车还需在完全自主模式下再行驶数亿英里。截至2018年2月， 谷歌的Waymo的自动驾驶汽车仅行驶了500万英里8 ，且全程 配备一名监控并在必要时接管车辆的人类驾驶员——平均每 5600英里就需要干预一次。据纽约时报报道，在优步的自动驾 驶研究项目中，这一间隔甚至低至仅13英里9。

但讨论特斯拉、自动驾驶汽车和安全记录时，真正被忽视的 关键问题是监管，或者说缺乏监管。谷歌和优步的研究项目虽然 都涉及在公共空间及人类交通环境中运行的车辆，但二者均是在 与市政当局合作下进行的。当一辆自动驾驶优步于2018年3月在 亚利桑那州坦佩市撞死一名行人后，该公司与市政当局立即暂停 了该项目。但特斯拉从未以如此正式的方式测试其技术——自动 驾驶辅助系统是以软件升级的形式提供给现有特斯拉车主的，马 斯克本人将其描述为“与更新手机或笔记本电脑相同⋯⋯特斯拉 很大一部分本质上是一家硅谷软件公司”。因此，特斯拉的做法 并非与监管机构、市政当局和安全机构合作，而是直接将其代码 投放到现有的

盐圈是魔法实践中的一种传统保护形式。
艺术家詹姆斯·布里德尔使用它来迷惑 一辆自动驾驶汽车。

市场并让用户自行进行测试版测试。虽然这种方法在智能手机应 用或视频游戏方面是可以理解的（尽管常常令人恼火），但对于 在公共道路上行驶的高端汽车而言，不难看出这种模式可能会带 来致命的风险。

责任归于何处？
这也暴露了围绕自动驾驶汽车最重大的法律问题之一：当它们出 现问题时，谁应该承担责任？如果车辆所有者在事故发生时并未 控制车辆，那么他们是否应承担法律责任？如果不是他们，那又 该是谁呢？制造商？编写代码的软件工程师？还是汽车本身？这 显然是一个巨大的问题，甚至可能因此催生出一门全新的伦理学 分支。尽管硅谷技术倡导者坚称区块链会以某种方式解决一切问 题，但显然，这个问题终将不再只是一个哲学或技术问题，而需 要法律体系、监管机构和政府介入并做出决定。目前几乎没有迹 象表明我们已接近达成这一目标。

如果无人驾驶汽车自行相撞还不够糟糕的话，人们还担心它 们可能会受到干扰。如果自动驾驶汽车本质上只是装在轮子上的 大型、复杂的联网计算机，那么它们也会像其他计算机系统一样， 容易遭受各种黑客攻击、安全漏洞和电子攻击。2017年，艺术家 詹姆斯·布里德尔通过他的“自动驾驶汽车陷阱项目”引起了广 泛关注，该项目使用摆拍的照片展示：仅通过在自动驾驶汽车周 围绘制白色线条，就可能使其陷入困惑。12这是一个引人深思的 推测性项目，既借鉴了科技潮人当前对魔法与神秘学的迷恋，也 反映了人们对自动化的焦虑，它生动地提醒我们，人类的智慧可 以多么轻易地欺骗和颠覆技术。

95
2016年，利亚姆·杨和我创作了《城市无法看见的地方》， 这是一部完全使用激光雷达扫描仪拍摄的短片，这种基于激光 的视觉系统被谷歌和优步的自动驾驶汽车所采用。影片设定在 一座未来主义的底特律，这座城市已成为一个受到高度监控和 高度自动化的自动驾驶汽车制造工厂，讲述了青少年组织非法 聚会的故事。他们通过穿着由“偏转织物”制成的服装，使自 己甚至整栋建筑对自动驾驶汽车的机器视觉系统隐形。这些材 料的图案设计用于偏转和散射激光雷达的激光扫描，从而使其 在自动驾驶汽车的视野中消失。影片中的人物还利用低频声波 干扰激光雷达，并使用二维码传单引导自动驾驶出租车将他们 送往隐蔽的秘密地点。尽管这同样是一部推测性作品，但这些 黑客手段基于现实中对激光雷达和机器视觉系统的实际漏洞利 用。

利亚姆·杨和蒂姆·莫恩，《城市无法看见的 地方》，底特律，2016年

杨和莫恩的短片《城市无法看见的地方》中，通过自动驾 驶汽车的激光雷达扫描机器视觉所呈现的未来主义的底特 律。
96
故事设定在一个未来主义的底特律，该城市 已成为一个受到严密监控 且高度自动化的自动驾驶汽车制造工厂， 讲述了青少年组织非法聚会 并躲藏行踪的故事。 同时隐藏自己 –甚至整个建筑物– 通过穿着由 “偏转织物”制成的衣服。

利亚姆·杨和蒂姆·莫恩，《城市无法看见的 地方》，底特律，2016年

above top:参加派对的人穿着由激光反射面料制成的服装，以扭曲和干扰 自动驾驶汽车的机器视觉系统。
above:随着《城市无法看见的地方》中的底特律逐渐被机器和自动驾驶汽车主 导，最后一批工厂工人将废弃的人类尺度的空间改造用于非法狂欢派对。

自主的自动驾驶车辆 似乎不可避免，除了激发 我们兴趣的未来主义奢华 之外，它们还将为许多人 提供真正的便利和益处。

98
卡车司机的国度
然而，更大的问题正在显现。2015年，美国国家公共广播电台（ NPR）发布了一张基于美国人口普查局统计数据的美国地图14 ，显 示了各州最受欢迎的职业。在除16个州以外的所有州中，这一职业 都是“卡车司机”。据估计，有170万美国人依靠驾驶卡车谋生。 尽管公众关注的焦点大多集中在自动驾驶私家车上，但显然发展自 动驾驶卡车的势头正在增强，特斯拉和沃尔沃等公司已接近将车辆 推向市场。几乎一夜之间，对全球最受欢迎的职业之一造成的影响 之大，令人难以想象。

但其实我们不必过多想象，已经有一种工作因技术颠覆而受到 重创：出租车或计程车驾驶。迄今为止，情况相当严峻。正如纽约 时报在2018年5月报道的那样，由于优步备受赞誉的“颠覆”，今 年至少有五名纽约市出租车司机自杀。15该市原本用于限制出租车 司机数量的牌照许可制度，在无监管竞争面前已变得毫无意义。优 步、Lyft和其他网约车平台彻底摧毁了曾经稳定且需求旺盛的工作 岗位——这一岗位通常与蓝领工人和移民群体相关，使其变得与正 在取代它的零工经济工作一样不稳定。当自动驾驶汽车进入市场时， 很难想象这项工作还能继续作为职业存在。

自动驾驶支持者的通常回应是不必担心。他们认为，这就是技 术变革的运作方式，它会改变社会。他们说，当汽车被引入时，所 有马车相关的工作都发生了什么？同样的技术突破将会创造新的就 业机会。每个人都只需要学习编写代码即可。他们认为，这只是短 期问题，从长远来看结果会更好。

问题在于，我们所生活的社会在很大程度上并不重视长期规 划。我们生活在一个由市场力量而非专家、预测人员或经济规划 者做出决策的社会中。正如特朗普和英国脱欧所表明的那样，我 们生活在一个越来越多的选民通过选举极度无能的领导人，或对 其国家未来做出不可逆转的灾难性选择，来应对他们生计所受威 胁的社会中。我们生活的城市同样受到市场力量的影响，房地产 投机和过度开发已使城市中心环境中的工人阶级和移民群体被掏 空，而这种劳动力的迁移并未通过规划和建设可负担住房来解决， 而是通过自动化来应对——无论是麦当劳自助服务终端、亚马逊无 人杂货店原型，还是优步和谷歌自动驾驶出租车项目。

自主的自动驾驶车辆似乎不可避免，除了令我们兴奋的未来主 义奢华之外，它们还将为许多人带来真正的便利和益处。但如果没 有明确的监管、领导力以及预测和规划其带来变化的意愿，它们可 能会在某些人群中造成混乱，并进一步削弱我们日益临床化和贵族 化的城市的多样性与潜力。现在，在为时已晚之前，我们需要掌握 方向盘，掌控局面。 1