9、计算机自主与机器人应用的探索与挑战

计算机自主与机器人应用的探索与挑战

1. 计算机自主与控制中心

计算机自主一直是众多人工智能研究者、开发者、记者和推动者所追求的科学目标。过去对计算机自主的描述，正逐渐被关于“有保证的自主”的更有力讨论所取代，这与控制中心的使用增加形成了对比。

计算机自主通常指的是独立运行、不受人类直接控制的机器。美国国防科学委员会将自主定义为：将决策委托给授权实体，使其在特定范围内采取行动。需要注意的是，受规定规则严格约束、无偏差的系统是自动化系统，但并非自主系统。一个完全自主的系统，应具备根据对世界、自身和所处情况的了解，独立制定并选择不同行动方案以实现目标的能力。

然而，美国国防科学委员会也警告说，“自主”一词常让媒体和一些军事领导人联想到计算机独立决策和不受控制的行动。实际上，所有自主系统在一定程度上都由人类操作员监督，其软件也对委托给计算机的行动和决策设置了设计限制。自主本身并非解决任何问题的万能方案。

人类和机器嵌入在复杂的组织和社会系统中，相互依存同样是重要目标。由于人类在法律、道德和伦理上仍需承担责任，计算机的设计应确保用户的控制。一些功能若具备可理解性、可预测性和可控性，可实现自主化，同时用户应能控制不可靠或对其重要的功能。

尽管对完全自主系统的热情高涨且作为研究目标有一定价值，但实际应用却令人担忧。高速自主金融交易系统引发了数十亿美元的金融崩溃，更严重的是，如伊拉克战争中爱国者导弹系统误击两架友机、2016 年特斯拉自动驾驶时坠毁，以及 2018 年末至 2019 年初波音 737 MAX 因自主机动特性增强系统（MCAS）导致的坠毁等致命事故。

德州农工大学教授罗宾·墨菲提出的自主机器人定律指出：任何机器人系统的部署都难以