读人工不智能：计算机如何误解世界笔记07_自动驾驶

1.       认知能力

1.1.         认知能力是人工智能从一开始就面临的核心挑战

1.2.         卡雷尔机器人

1.2.1.           解决卡雷尔问题的关键在于提前了解障碍物的位置，并让卡雷尔绕过它们

1.2.2.           人类程序员可以看到网格，即卡雷尔世界的全景地图

1.2.2.1.            狭义人工智能解决方案，依赖于更好的地图绘制技术

1.2.3.           使用汽车上的激光雷达、摄像头和传感器来构建它所处空间的3D模型

1.2.4.           在这个3D模型里，没有汽车“识别”出来的“物体”，有的只是使用机器学习识别的可导航区域和非导航区域

1.3.         莱特兄弟

1.3.1.           可以制造一台不需要拍打翅膀的飞行机器

1.3.2.           用翅膀滑翔就足够了

2.       自动驾驶

2.1.         只要有足够的训练数据，算法确实可以在各种烦琐乏味的任务中表现得相当不错，而人类的聪明才智通常会填补其中的空白

2.1.1.           不合理有效的数据驱动方法颇适合用于电子搜索、简单翻译和简易导航

2.1.2.           语言之间的机器翻译比以往任何时候都好

2.1.2.1.            仍然无法与人工翻译相媲美，人类的大脑在理解断句的含义方面非常出色

2.2.         无人驾驶这一使用场景，用来思考人工智能的完美运行和完全失效这两种情况是最合适的

2.3.         争先制造自动驾驶汽车，本质上就是在争先突破计算的基本极限

2.4.         在自动驾驶汽车发展的前10年，试探什么能奏效、什么不能奏效是一个警世故事

2.4.1.           技术沙文主义可能让人们对技术产生神奇的创想，也有可能对公共健康造成危害

2.5.         早在2007年，已经有机器人汽车技术在辅助日常驾驶

2.6.         挑战不仅在于感知环境，而且在于了解环境

2.6.1.           关键在于感知能力

2.6.2.           无法对心智理论进行编程，因此汽车永远无法像人类那样对障碍物做出反应

2.7.         计算机没有想象力

2.7.1.           要得到对象的旋转图像，计算机需要对这个对象进行3D渲染

2.7.2.           至少需要一个矢量地图

2.8.         如果计算机可以识别出柱状物，我们可以为柱状物和人分别编写规则

2.8.1.           我们不知道它是柱状物，除非有视觉或是对象识别技术

2.8.2.           问题回到了对象分类上

2.9.         计算机只“知道”它被告知的内容

2.9.1.           如果没有对未来进行推理的认知能力，计算机就无法瞬间将路灯识别为障碍物，并采取适当的规避措施

2.10.     摩尔定律表示，集成电路上容纳的晶体管数量每年会翻倍，容量的增加意味着计算机内存价格日益下降

2.10.1.      2005年左右，存储器突然间变得又大又便宜，以至于首次可以绘制出整个山景城的3D地图，并将其存储在车载存储器中

2.10.2.      视频和3D文件占用了大量内存空间

2.10.3.      平价的存储器改变了游戏规则

2.11.     没有制造一辆像人类那样可以穿行世界的汽车，而是将现实世界变成了电子游戏，让汽车在其中穿行

2.11.1.      采用的是统计估计值和数据的不合理有效性

2.11.2.      统计方法将一切都变成数字，并估计出概率

2.11.3.      现实世界中的物体不是被转换成物体对象，而是被转换成在网格上以计算出的速度沿特定方向移动的几何形状

2.12.     驾驶不仅仅是一项工作，而是同时处理许多项工作

2.13.     驾驶辅助技术的兴起

2.13.1.      平行停车只是一个细小的限定动作，是对技术的绝妙运用

2.14.     机器学习方法非常适合用来完成固定符号世界里的重复性工作

2.14.1.      它并不适合在街道上操作一台两吨重的杀人机器，因为街道上到处都是无法预测的民众

2.14.1.1.        特斯拉Model X

P90D的整备重量是5 381磅

2.14.1.2.        作为参考，一头雌性亚洲象的重量大约是6 000磅

2.14.2.      程序员要预见到可能发生的每一个问题或意外情况是不可能的，这就意味着现有的机器学习系统在面对现实世界的不规则性和不可预测性时，很容易发生故障

2.14.2.1.        从定义上说，生命是不可预测的

2.15.     人有智慧，他们可以接受怪事；计算机没有智慧，它们容不下怪事

2.15.1.      因为我们只能有意识地处理其中大约40条信息，所以我们的无意识思维接管了剩下的信息，使用偏见、刻板印象和固定模式来过滤掉噪声

2.16.     自动驾驶的梦想在商业领域仍然活跃

2.16.1.      自动驾驶汽车的大量炒作背后，隐藏着赚大钱的希望

2.16.2.      很少有投资者会放弃这种机会

2.17.     自动驾驶汽车的工作原理与大数据息息相关

2.17.1.      大部分自动驾驶汽车研究和一些训练数据都可以在arXiv和学术知识库中在线获取

2.17.1.1.        数据的一个主要缺点是没有内置异常数据，而且算法无法预测未内置的内容

2.17.2.      自动驾驶汽车的，并不是一个懂得如何驾驶汽车的人造智能大脑

2.17.2.1.        只是把街道进行了详细的数字化

2.17.3.      数据都来自自动相机

2.17.3.1.        无论数据来自何处，总会有人在最底层操作这些数据，它并不是真正的自动化

2.17.3.2.        发现路面新坑洞的人，可能是戴着谷歌眼镜的人，也可能是骑着自行车上街的人

2.17.3.3.        无论是谁，只有少数人在采集这些数据

2.18.     自动驾驶汽车未来的发展道路很可能既不安全，也不符合道德伦理，也未必会为大众创造福祉

2.19.     所有自动驾驶汽车的“实验”都需要人类驾驶员和工程师全程跟进，只有技术沙文主义者会称此为成功，而非失败

2.20.     自动驾驶汽车项目促进了一些正面的消费意识进步

2.21.     开发自动驾驶汽车来解决安全驾驶问题，就像部署纳米机器人来杀死盆栽上的害虫一样

2.21.1.      我们真正应该专注开发的是人类辅助系统，而不是人类替代系统

2.21.2.      关键不在于让机器来掌管世界，人类才是重点

3.       主要论据

3.1.         自动驾驶汽车支持者的主要论据是，它们能使道路“更安全”

3.1.1.           讨厌的人类，总是出错！

3.1.1.1.            这就是技术沙文主义

3.1.2.           人类当然要为这些驾驶失误负责，毕竟只有人类在驾驶汽车

3.2.         行车时发短信、分心驾驶无疑会导致死亡人数上升

3.2.1.           一个直接的解决方案是在公共交通上投入更多的资金

3.2.2.           程序员想要制造自动驾驶汽车，省下搭乘公共交通工具的时间来干点别的事情

3.3.         车内装载的技术设备太多，不一定利于驾驶

3.3.1.           随着越来越多的信息娱乐技术进入汽车，交通事故发生得也越来越频繁

3.3.2.           汽车制造商可以在其标准车载套装中预装一个屏蔽驾驶员手机的设备

3.3.2.1.            这项技术现在是存在的

3.3.2.2.            驾驶员在紧急情况下可拨打报警电话，除此之外不能打电话、发短信或上网

4.       主要问题

4.1.         在维护不善的道路上时，无法保持沿着街道的中心线行驶

4.2.         不能在雪天或其他恶劣天气条件下行驶，因为在这些天气条件下，他们无法“看到”东西

4.3.         大多数自动驾驶汽车使用的算法被称为深度神经网络，在停车标志上贴上贴纸或涂鸦，就会让它们感到迷惑

4.4.         自动驾驶汽车通过GPS导航

4.4.1.           袖珍GPS干扰器是非法的，但在网上只要50美元左右就可以轻易地订购

4.5.         部分问题在于机器伦理尚未最终厘清，因为它太难被清晰表述了

4.5.1.           人类驾驶员可能会选择撞树，因为孩子们的生命是宝贵的

4.5.2.           大多数人在面对电车难题时，更偏向于牺牲司机和乘客以拯救多数人

4.5.3.           他们还说，他们绝不会购买自动驾驶汽车

4.5.4.           “死亡”是一项特征，而不是一个漏洞

4.5.4.1.            我们总被唆使着把生命交与那些机器，但其实人类要比那些机器更道德，也更聪明，这一点并不令人意外

4.5.4.2.            几乎没有大学开设过计算机或工程类的伦理课程

5.       自动驾驶汽车分级标准

5.1.         SAE L0（无自动化）：人类驾驶员全权操作汽车

5.2.         SAE L1（驾驶支援）：车载自动化系统偶尔向人类驾驶员提供少量驾驶支援

5.3.         SAE L2（部分自动化）：车载自动化系统在某些情况下可实际完成一些驾驶动作及监测驾驶环境，由人类驾驶员持续监测驾驶环境并完成其余驾驶动作

5.4.         SAE L3（有条件自动化）：车载自动化系统在某些情况下可实际完成一些驾驶动作及监测驾驶环境，但人类驾驶员需在自动化系统发出请求时随时收回驾驶控制权

5.5.         SAE L4（高度自动化）：车载自动化系统可完成驾驶动作及监测驾驶环境，人类驾驶员不一定需要随时收回控制权，但自动化系统只能在限定的环境和条件下运行

5.6.         SAE L5（完全自动化）：车载自动化系统可在任何条件下执行人类驾驶员可以执行的所有驾驶动作

5.7.         自动化分级有多种定义，人们对于其定义标准化的需求已存在一段时间

5.7.1.           标准化有助于提高自动化定义的清晰度和一致性

5.7.2.           标准至少改变了一次，也可能是两次

5.8.         在L3和L4，车辆需要感知周围的环境，因此需要安装复杂、昂贵的传感器

5.8.1.           通常使用的传感器是激光雷达、GPS、IMU（惯性测量单元）和摄像头

5.8.2.           传感器输入需要转换成二进制信息，由车内的计算机硬件处理

5.9.         每一级都需要越来越多的计算能力来根据传感器的输入而做出驾驶决策

5.10.     还没有人能够开发出足够强大的硬件和软件，使其在任何地点和天气条件下都能安全行驶