9、计算机自主性与机器人应用的探索与挑战

计算机自主性与机器人应用的探索与挑战

1. 计算机自主性的多面探讨

计算机自主性一直是众多AI研究者、开发者、记者和推广者所追求的科学目标。过去对计算机自主性的描述，正逐渐被关于“有保证的自主性”的更有力讨论所取代，这与控制中心使用的增加形成了对比。

计算机自主性指的是独立运行、不受人类直接控制的机器。美国国防科学委员会将自主性定义为：将决策委托给授权实体，使其在特定边界内采取行动。需要注意的是，受规定性规则约束且无偏差的系统属于自动化系统，而非自主系统。一个完全自主的系统，应具备根据对世界、自身和所处情况的了解，独立制定并选择不同行动方案以实现目标的能力。

然而，美国国防科学委员会也发出警告，“自主性”一词常让媒体和一些军事领导人联想到计算机独立决策和不受控制的行动。实际上，所有自主系统在一定程度上都由人类操作员监督，其软件也对委托给计算机的行动和决策设定了设计限制。自主性本身并非解决任何问题的万能方案。

人类和机器嵌入在复杂的组织和社会系统中，相互依存同样是重要目标。由于人类在法律、道德和伦理上仍需承担责任，计算机的设计应确保用户的控制。一些功能若具备可理解性、可预测性和可控性，可实现自主化，同时用户应能控制不可靠或对其重要的功能。

尽管对完全自主系统的热情高涨且作为研究目标有一定价值，但实际应用中却问题频出。高速自主金融交易系统引发了数十亿美元的金融崩溃，更严重的是，如伊拉克战争中爱国者导弹系统误击两架友机、2016年特斯拉自动驾驶模式下的撞车事故，以及2018年末至2019年初波音737 MAX因自主机动特性增强系统（MCAS）导致的坠机事故。

德州农工大学教授罗宾·墨菲提出的自主机器人定律指出：任何机器人系统的