32、自动驾驶与医疗领域的人工智能自主性及安全保障

自动驾驶与医疗领域的人工智能自主性及安全保障

1. 自动驾驶政策与技术不确定性管理

在美国，政府和行业都意识到，某些过早的监管可能会过早冻结技术发展并抑制创新。美国采取了自愿安全自我评估的方式，这种方式更具劝诫性而非强制性，不过目前也在对联邦机动车安全标准进行调整，以适应自动驾驶汽车在碰撞避免和乘员保护方面的需求。随着自动化水平的提高，以及人们对自动驾驶汽车在不可预测环境中运行的期望增加，人们认为还需要更多的措施。

人工智能在自动驾驶发展中体现出了不确定性和信息不对称性。它增加了产品的复杂性和难以理解性，而政府需要对其进行安全监督，但政府对该技术的理解总是落后于开发者。无论是开发者公司还是寻求保护公众安全的政府机构，都需要一种综合的方法。在评估自动驾驶安全时，测量、阈值和流程不能孤立存在，它们相互补充、弥补不足。

例如，加利福尼亚州机动车管理局要求开发者在公共道路上测试自动驾驶汽车时报告脱离情况，这一措施在开发者拥有大量专有信息而外部观察者一无所知的情况下，起到了一定的指引作用，但报告方式的不一致削弱了其效用。另一方面，国家运输安全委员会对致命事故的全面调查，融合了车辆及其制造商的技术和流程信息，尤其关注安全文化。调查能获取开发者通常不会分享的更具体信息，让大家能从调查报告中学习，但此类调查数量有限，对自动驾驶安全领域的覆盖范围也有限。

由于政策制定者对自动驾驶汽车的了解总是少于开发者，或许是时候开发一种新的人工智能系统，为政策制定者设计，在支持自动驾驶发展的同时保护公众安全。即使这种系统未被实施，人们为理解其构成所采取的步骤，也有助于为这些不断发展且对安全至关重要的系统营造一个更透明的中间地带。可能会有一系列系统，包括使用人工智能更深入了解自动驾驶系统的工具