城市机器人技术的可接受性挑战

城市机器人技术：面向我们城市的负责任创新

1. 引言

1.2. 迈向社会可接受性

什么是城市机器人技术？在亚历克斯・普罗亚斯（2004年）执导的电影《我，机器人》中，人形机器人带着狗去行走，上门送邮件，从街道上收集垃圾袋，并在拥挤的人行道上行走。如果我们加入一些现实元素，并将这一科幻场景扩展至自动驾驶汽车、无人机以及连接机器人、智能设备和人类的环境智能基础设施，那么未来城市机器人技术可能呈现的图景将更加清晰。

然而，我们这些市民、研究人员、工程师、企业家、决策者等，是否真的希望生活在那样的未来城市，并将其传承给下一代？这显然不仅是一个美学问题，更是一个伦理学问题。

社会可接受性已成为地平线2020所倡导的负责任研究与创新（RRI）这一新型科研与技术创新伦理方法的优先事项，欧洲委员会的资助研究计划。负责任研究与创新（RRI）的目标是使技术研发更贴近社会的实际需求：“负责任研究与创新是一个透明、互动的过程，通过这一过程，社会行动者与创新者在创新过程及其可市场化产品的（伦理的）可接受性、可持续性以及社会合意性方面相互响应，以实现科学技术进步在我们社会中的恰当融入[2]”。

根据冯・肖姆贝格的说法，“[i]创新并不先验地服务于社会目的。正如主流意识形态所认为的那样，创新本身并非 inherently good”[3]。因此，负责任研究与创新（RRI）的目的是引导创新过程朝向社会需求：“为了让新技术被社会所接受，它们必须与社会需求和价值观保持一致”[2]。这可以在设计和开发过程中实现，通过促进负责技术开发的相关人员与受该技术影响的各方（包括公民社会）之间的迭代式交互（“为了社会并和社会一起进行的科学”[4]）。

然而，利益相关者的参与可能会带来问题[5]。其中一个局限在于，并非所有利益相关者，特别是外行人员，都有能力充分理解某项技术所带来的益处，从而存在做出不利于自身决策的风险。事实上，英国工程技术学会（IET）在英国开展的一项调查表明，尽管各方已付出诸多努力推广智慧城市概念，“但英国公众对智慧城市是什么、做什么以及其改善市民‘生活质量’的潜力仍存在基本的认知缺失”[6]。调查结果显示，大多数受访者既无法解释智慧城市的概念（尽管受访者可以从一系列选项中选择答案），也无法理解某些智能技术的实用性，例如智能街道照明、绿色建筑或通过智能手机提供的出行信息。更不用说外行人员是否能够评估机器人所带来的益处以及风险与危害。IET报告总结指出，尽管许多城市在迈向“智慧城市”的过程中取得了进展，但调查显示，外行人员并未实质性地参与决策过程，也缺乏旨在提高市民认知的重要举措。这可能导致“智慧城市[…]在缺乏对人们真正期望的充分了解的情况下被开发”[6]。

因此，在创新过程中，重要的是还要让伦理学、动物行为学、人类学、社会科学、城市规划等领域的专家参与进来，以识别和解决技术专家和用户可能忽略的影响[7]。此外，重要的是要找到除小组访谈或调查之外吸引利益相关者的新方法，例如科幻原型设计[8]。

鉴于上述情况，就电影《我，机器人》的场景而言，合意性问题应促使我们反思：是否真的需要让机器人替我们携带宠物（只要生物宠物不会被人工宠物取代）、递送包裹或充当我们的管家。此外，抛开虚构世界不谈，我们还应对社会自动驾驶汽车或无人机的合意性，仅举两个机器人技术在城市环境中的流行应用为例。

如今，关于城市的社會挑戰已有充分記載[9]。根據聯合國的數據：「今天，人類的一半——35億人——生活在城市中；到2030年，世界人口的近60%將居住在城市地區；未來幾十年內95%的城市擴張將發生在發展中國家；今天有8.28億人生活在貧民窟，且這一數字仍在上升；全球城市僅佔地球陸地的3%，卻消耗了60‐80%的能源，並產生75%的碳排放。快速城市化正對淡水供应、污水、生活环境和公共衛生施加壓力」[10]。

文献中描述的许多关于城市机器人技术的研究项目或应用都针对社会挑战，例如移动性、工人安全、环境污染、卫生等。然而，仅仅实现一个社会期望的目标是不够的。事实上，技术并不总是唯一且最佳的解决方案，还可能存在非技术性（如社会改革）或综合解决方案。这就是众所周知的技术修复问题，即仅试图通过技术手段来解决问题。它被称为“修复”，因为它并未带来真正长期有效的解决方案，而只是解决了症状而非根本原因[11]。因此，在尝试应对社会问题时，研究人员和设计者应明确界定其所提出的技术方案的附加值。

回到本节开头提出的问题，城市机器人技术可以简单地定义为服务于城市和市民的机器人技术。然而，现在应该明确的是，这种定义还应包含合意性和负责任性。为了实现可取性，机器人应针对社会需求，并致力于提升市民的生活质量。此外，为了做到负责任，设计者应避免技术修复态度，需评估非技术性解决方案，并考虑所提出的方案是否符合伦理（尊重基本权利）、法律上可接受（符合法律法规）以及社会上可接受。事实上，社会可接受性有时可能与伦理原则、法律法规或社会和文化方面发生冲突，例如智慧城市中人体追踪设备引发的隐私问题[12]。

本文的目的是提出一种方法或路径，以促进识别机器人技术在城市环境中应用所带来的伦理、法律和社会问题。

正是技术的矛盾性，即技术从来都不是完全中立的，它可能会决定问题，而不管用户的良好意图如何，这一原因证明并要求进行伦理分析，对技术进行批判性反思。

本文的结构如下：在下一节中，我们描述了方法论；在第二部分中，我们为读者提供了城市机器人技术的概述；最后在第3节中，我们以参考框架为基础，讨论了城市机器人的某些潜在影响第1.2节中提出的方法论。在结论部分，我们总结了本文讨论的多个主题，并就如何以负责任和可取的方式在城市中应用机器人提供了一些进一步的建议。

1.2. 方法

本文提出的方法旨在超越以用户为中心的设计方法，转而采用一种更加生态化的方法来考虑技术的社会可接受性。换句话说，在基于机器人的应用的设计与开发过程中，除了用户的需求及其（物理和认知）特征外，还应考虑机器人与其环境之间交互所产生的问题。需要注意的是，此处的环境被理解为包含物理属性和非物理属性：物理属性包括与用户、人员、物体以及环境中存在的其他物理现象的交互；非物理属性则包括与表征该环境的社会、伦理、文化及法律领域的交互[13]。

综合考虑环境的物理属性和非物理属性，将使我们能够设计出更安全的机器人，以及社会上可取且负责任的机器人应用。机器人专家、城市规划师、建筑师、公共和私人机构、决策者与市民之间的合作，无疑将有助于识别和解决问题。

本文提出的方法论路径包括考虑城市环境的一些物理属性和非物理属性如何与机器人的某些基本特征相互作用。

鉴于基于机器人的技术组件（例如传感器、执行器、处理器、网络等）来描述机器人定义存在困难，并且由于无法分析城市环境中所有可能的应用，我们确定了一些适用于各类机器人和应用的共同特征。这些基本特征源自之前的研究[14]，包括：操作环境、功能、性质、自主水平以及与人类的交互。

以下是每个功能的简要说明。

1.2.1. 环境

操作环境是机器人外部的环境，机器人在此执行其操作并产生影响。正如我们之前所说，环境应被视为具有物理属性和非物理属性。

一些物理属性包括：空间、活动区域和结构化程度，它们分别提供了关于环境物理属性（如陆地、水、空气、人体等）、机器人运动是否存在限制（如有界或无界）以及环境的结构化程度或对机器人需求的适应程度的重要信息。非物理属性包括：所有权级别、美学和社会层面，它们分别提供了关于所有权级别环境（例如公共户外空间）、美学要求（例如城市礼仪）以及社会文化现象（例如城市破坏行为）。

1.2.2. 功能

功能指的是机器人被设计所针对的特定用途或应用。它对应于机器人 intended 使用的领域或市场（新兴的或成熟的）。根据罗宾・墨菲的说法，关于机器人可以用于什么的问题有两个可能的答案：“简短的回答是，机器人几乎可以用于任何能想到的应用。详细的回答是，机器人非常适合以下应用：1）人类面临重大风险的场合（核能、空间、军事）；2）由于经济因素或工作的琐碎性质导致人类劳动力使用效率低下的场合（服务业、农业）；3）存在巨大风险的人道主义用途（清除地雷区域、城市搜索与救援）。”[15]。

时至今日，机器人几乎可以应用于所有领域，从太空探索到学校教育。欧洲委员会与欧洲工业及学术界之间的公私合作伙伴关系SPARC确定了机器人的八大战略应用领域：制造业、医疗保健、家庭护理、农业、安全、环境、交通和娱乐[16]。在路线图文件中，城市环境并未作为单独的应用领域出现。相反，智能城市中的机器人应用属于机器人运行环境中的一个特殊类别。

1.2.3. 性质

性质指的是机器人实体化，即机器人展现自身的方式。机器人的性质源于其功能，而该功能又必须与操作环境相一致。正如罗尔夫・皮费尔所指出的：“如果一个系统具有具身性，那么它就受物理定律的约束，并且必须以某种方式应对重力、摩擦力和能源供应才能生存”[17]。机器人实体化可能因其构成材料的不同而有所差异，从软件到硬件设备，从生物材料（例如纳米机器人）到由人工与生物组件构成的机器人（例如混合仿生系统）。此外，机器人的性质还因其形态而异，形态包括设计（例如仿生的）、形态（例如类人形）和尺寸（例如微型机器人）。最后，正如我们将看到的，机器人实体化对与人类的交互类型具有决定性作用。

1.2.4. 自主水平

自主性指机器人在环境中执行任务时相对于外部人类监管者的独立程度。可以区分出机器人控制或自主性的5个等级[18]：

• 受控系统：人类具有完全或部分控制权，例如汽车；
• 监督系统：指按照操作员指令执行操作的系统，例如工业机械；
• 自动系统：在无需操作员干预的情况下执行固定功能；
• 能够自适应、学习并做出决策的自主系统。

适当的自主水平的选择取决于安全与性能之间的合理平衡，这在技术语言中被称为“可信性”。换句话说，适当的自主程度“可以通过表征系统在其中适当运行的安全操作区域来量化”[19]。

机器人可以具有不同程度的自主性。例如，无人机在巡航阶段可以是自主的，在上升和下降阶段可以由监督者监控，在执行作战或打击任务时可以是远程操作的。

1.2.5. 与人类的交互

最后但同样重要的是，该类别考虑了机器人与人类之间的关系。假设所有机器人无论直接或间接都会与一个或多个人员（或其身体的一部分，如机器人假肢的情况）发生交互，即使机器人与操作员相距较远，如遥操作系统中的情况。在此类别中，可以区分出三个主要特征：交互、关系和接近性。交互涉及人类与机器人之间相互影响的方式，包括以下重要方面，这些方面可能因任务、用户等而异：交互方式，可以是物理的或非物理的，如所谓的情感机器人；交互持续时间（即一次性或周期性）；以及接口，其特征可包括侵入程度、激活类型、反馈等。关系提供了机器人与人类之间联系的信息，即机器人与人类之间的关系类型。它进一步分为：人类类型，即其是否为用户或非用户。用户也可以根据其角色进行区分。肖尔茨等人描述了人类在与机器人交互时可能扮演的五种角色：监督者、操作员、队友、机械师/程序员以及旁观者[20]。最后，人机接近性涉及机器人与人类之间的空间接近程度。事实上，机器人可能与人类分离（如在笼中运行的工业机器人），与人类接触（如助理机器人的情况），或集成或附着于人类身体上（如假肢的情况）。接近性关系对于确定接口类型以及机器人的安全水平至关重要。

2. 城市机器人技术：概述

在上一节中，我们试图结合负责任研究与创新（RRI）的目标，向读者阐明城市机器人技术的内涵。在本节中，我们将从更技术的角度来探讨城市机器人技术。尽管目前尚无公认的关于城市机器人技术的定义，但可以通过参考一个名为网络化机器人系统（NRS）的研究领域来解释其运作方式。阿尔贝托・桑费利乌及其同事将NRS描述为：“一种新概念，通过基于网络的协作，将物理自主机器人、环境传感器以及人机交互集成在一起”[21]。因此，城市机器人技术可以被描述为应用于城市环境的网络化机器人系统，在该系统中，具有不同自主性水平的机器人与人类和环境进行交互。

然而，正如山姆・雅各布指出的那样，要想弄清楚未来机器人/智慧城市将是什么样子，战场提供的实际范例比许多科幻小说更为具体。事实上，战场一直是试验新型网络化空间实践的试验场：“这里存在一个网络化的领域，一个军事物联网，通过技术的三维矩阵，将人、物体及其在空间中的流动连接起来。上方是成群的卫星、飞机、直升机、无人机和飞艇；地面则是大量配备传感器的车辆、技术武装士兵以及各类机器人设备的集群。所有这一切都由一个从局部延伸到全球的隐形战术通信网络进行控制。生物单元、装备、它们的机器人兽群以及远程指挥者，在整个地形上撒下一张无形之网。这张网 surveils 地形，收集数据与情报，传递并处理信息，进而远程指挥移动与后勤，持续编排着致命武力的 choreography”[22]。

事实上，与许多主流技术一样，城市机器人技术的研究主要受到军事领域[23]和城市搜索与救援（USAR）的推动，其目标是使城市在恐怖袭击和自然灾害中更加安全[24]。

民用应用主要包括为城市环境中的市民提供公共或个人服务的机器人，或作为专业人员操作的新工具。以下是文献中发现的一些非穷尽性的民用应用：地下排水和排污系统的检测[25]；城市燃气管道内部检测[26]；使用无人机式攀墙空中机器人对城市建筑进行维护与检测[27]；玻璃幕墙清洁机器人[28]；消防侦察机器人[29]；用于废物收集、街道清洁和移动空气质量监测的机器人[30]；针对城市水质的污染监测[31,32]；在行人区域进行人与物的运输[33, 34, 35]；自主轮椅[36, 37]；购物车服务[38]；为视力障碍者在城市环境中自主行走提供的导盲机器人系统[39]；自动驾驶汽车[40, 41, 42]；空中自主货物运输[43, 44]。

此外，在文献中还描述了机器人的一些更通用应用，旨在测试某些技能，例如在行人密集且杂乱的城市环境中自主导航的能力；在真实户外环境中自主过马路并激活行人按钮；开发用于人形机器人从干扰（如推挤和在崎岖地形上行走）中恢复的算法；在城市环境中导航时检测路缘石；测试在城市环境中自主导航期间的人机交互；测试沟通技能在辅助任务（如博物馆导览、礼宾员、店主等）中的有效性[52]。

城市机器人技术符合智慧城市概念。事实上，机器人技术可被视为众多技术中的一种，与信息与通信技术、人工智能、数据分析等技术相结合，将用于使城市变得更智能和高效。然而，在智慧城市概念中，重点在于信息——即通过各种传感器收集的数据交换，得益于实时分析，可通过更智能的行为提高城市的效率和可持续性——随着机器人技术在城市中的扩散，与机器人物理特性相关的物质性也将变得重要起来。因此，关于安全、伦理学、美学等方面的新影响将会出现。我们将在第3节讨论其中的一些影响。

从技术角度来看，城市机器人面临的主要挑战大多与自主水平[53, 54, 55]相关：首要的普遍挑战是安全。事实上，在城市环境中作业时，机器人应具备高度的内在安全性，因为城市具有复杂且动态的空间，难以进行结构化，且由非专业用户即市民[56]所居住。

此外，研究人员正在研究机器人导航、感知、环境认知与环境理解[57][58],地图构建与更新[59],物体识别[57],学习能力[60],以及人机交互[61, 62, 62, 63]等方面的问题。

相反，从非技术角度来看，法律方面仍然是机器人在城市环境中部署所面临最具挑战性的无形障碍之一。法律问题可以归纳为两大主要类别[64]：一是关于机器人本身的性质（例如，相对于交通或公路法规而言，自动驾驶汽车是什么？[65]同样，相对于国际民用航空组织而言，无人机是什么？[66]）；二是关于机器人的行为（例如，个人数据采集引发了隐私问题[64, 67]，或者在汽车之间自主移动的能力带来了难以解决的责任问题[68, 69, 70]）。

3. 讨论：城市机器人技术中的可接受性问题

3.2. 操作环境

操作环境从两方面影响机器人的功能：一方面，它对机器人外形、结构和技术特性的设计起着决定性作用。例如，像DustCart[30, 71]这样设计用于自主移动和运输垃圾袋的机器人必须具备导航、定位、避障和人机交互能力。相反，用于燃气管道检测的机器人必须能够调整其形态以适应管道的形状、尺寸和配置，具备转向能力和牵引力，以便攀爬垂直管道并越过障碍物[26]。

另一方面，正是通过对操作环境的物理特征以及人种志特征的分析，才能确定机器人需要满足的社会需求。

构成城市环境的各类空间多种多样，每种空间都具有特定的有形和无形属性。

在物理特征中，街道、广场和人行道等公共开放空间最重要的方面或许是这些环境的复杂性和动态性。事实上，城市对于机器人而言是最难管理的环境之一，因为它充满了人和物体，暴露于自然环境中，因而变得不可预测。此外，与工厂或其他私人环境不同，通常很难通过传感器或防护屏障来构建城市空间，例如街道。

这些方面很重要，因为它们涉及机器人的内在安全性。正如翁及其同事[56]所指出的，在公共空间、户外以及非专业人士在场的情况下操作时，无法像工厂中的机器人那样通过外在解决方案来确保安全，例如阅读用户手册、使用手套或头盔。

故意破坏公物这一现象可被视为城市环境中一种典型的非物理属性，在设计城市机器人时值得考虑。故意破坏行为通常针对街道家具（如长椅、路灯、花坛等）或城市环境中的其他物体，例如汽车、房屋墙壁、电话亭（在手机出现之前）。在之前的一项研究[72]中，我们讨论了故意破坏行为与用于提供公共服务的机器人之间的关系。在该研究中我们指出，与其他城市物体相比，由于机器人的类人形外观和行为，它们可能更容易遭受严重的故意破坏行为（事实上，该文章的标题颇具挑衅性地称为“欺凌机器人”）。

针对机器人的故意破坏行为将对所提供的服务产生负面影响，并危及机器人安全，由于机器人能够在环境中移动并与人互动，这会使人和物品面临严重危险。

另一个许多机器人仅凭其物理存在就可能干扰的城市环境的非物理属性是美学维度。随着机器人在智慧城市中的扩散，城市的外观也将发生变化：“智慧城市将能够利用广泛的机器人技术，并最终被该技术所塑造。例如，建筑物、道路的布局以及建筑物的可达性与当前的交通方式密切相关，而自动驾驶交通将改变这种交通方式的特征，从而改变城市的形态。建筑物的位置及其与居住和工作在那里的人们的关系将随着时间的推移而改变。例如，使用按行程租赁的小型自主城市交通工具将消除零售区域对停车位的需求。”[16]。机器人和其他“智能技术”可能会违反城市礼仪规范，特别是在历史城镇中。此外，在城市中实施机器人服务可能意味着需要采用基础设施和技术设备，这可能会加剧城市抽象化或“城市化”的趋势[73]，即形成“共同景观与全球场所”，其中景观的设计独立于具体地点，并脱离了当地居民的特征、习惯和历史[74]。因此，机器人技术在城市环境中的整合带来了一项既涉及美学也涉及伦理的挑战，需要建筑师、城市规划师和机器人工程师共同参与。

3.3. 功能

没有功能或任务可执行的机器人是不存在的。这一看似简单的观点，实际上蕴含在“机器人”一词的词源之中，同时也带来了一个伦理和社会影响方面的问题：机器人设计是为了取代人类还是增强人类？

如我们在第2节中所见，机器人在城市环境中的应用范围广泛，包括下水道和管道检查、废物收集和街道清洁，以及文化遗产保护、物体和人员运输。

或多或少，所有机器人应用都涉及对人的认知和/或身体功能的替代、部分或完全替代。

用机器人替代人类可能出于积极的伦理和社会原因。例如，在许多城市环境应用中，机器人的设计旨在使某些危险工作变得更加安全，如下水道检查：“这项新技术有望改善下水道工人的健康与安全，因为他们将无需进入被划为密闭空间的危险区域”[25]。

在其他一些情况下，目标可能是惠及社会弱势群体。例如，自动驾驶汽车可以使无法驾驶的人群受益，比如老年人或残疾人：“其中可能受益的一个群体是老年驾驶员，在欧洲老龄化社会的背景下这一点尤为重要。因此，自动化技术可以为高风险驾驶员带来益处，增加或延长其移动性，同时可能降低他们对其他道路使用者构成的安全风险”[75]。

由机器人替代不仅影响人类，也影响动物。导盲机器人就是这种情况，它专为负担不起真正导盲犬的盲人设计，因为后者过于昂贵：‘全球约90%的视力障碍者生活在发展中国家。以中国为例，有1691万视力障碍者，却仅有50只导盲犬。作为动物，导盲犬还需要空间、喂养和其他动物护理问题。然而，导盲犬的训练过程长达18个月，每只成本高达2.5万至4.2万美元。一只导盲犬仅能工作8到10年左右，因此存在成本和使用寿命问题。考虑到这些因素，有必要开发一种具有多种功能的低成本导盲机器人，以替代真正的导盲犬，帮助越来越多的视力障碍者’[39]。

替代带来的好处也可能影响环境，例如自动驾驶汽车，它们应能减少与交通拥堵相关的污染水平[76]。

从文献中对城市环境的民用应用进行的非 exhaustive 审阅来看，我们发现利益相关方参与在文章中缺失或至少未被报告。换句话说，尽管这些应用通常出于社会和符合伦理的动机，但它们似乎主要由技术的能力所决定。（即过去由人完成的任务现在可由机器人完成）而不是基于用户和社会的需求与愿望。

导盲犬机器人就是一个典型例子。在此情况下，人们并未关注机器人与真实狗在可接受性方面的差异，而仅仅关注用机器人替代真狗给视力障碍者带来的经济优势。然而，如果生物狗和机器狗的成本相同，他们会如何选择呢？

在大多数情况下，正如罗宾・墨菲[15]所指出的，用人形机器人替代人类是由提高公共或私人服务效率的需求决定的，这既包括经济性，也包括性能。例如，以设计用于取代人工清洁的玻璃幕墙清洁机器人为例：“在玻璃幕墙清洁机器人制造出来后，工人在悬挂平台上进行人工清洁的传统方法将被改变，这种针对中低层建筑的清洁机器人的出现将降低建筑物清洁成本，改善工作环境，并提高生产效率”[28]。

机器人替代带来的最重要后果是“技术性劳动力替代”[77, 78]的影响。“技术替代”是指人们担心技术会导致工作岗位的流失并恶化劳动者的经济待遇。这种担忧涉及所有应用，与机器人的操作环境无关，并可能引发社会对技术的社会抵制。在我们的情况下，面临风险的人群是在城市环境中工作的人。

与墨菲的观点相比，我们认为有必要为机器人替代人类确立更明确的伦理界限。在一篇1987年发表的关于机器人引入社会的文章中，一群日本学者提出了几项应对技术替代问题的规则：“机器人必须为了人类的福祉与发展而制造和使用[…]。机器人不得取代人类从事人们希望亲自完成的工作，但可以取代人类从事那些人们不愿做或认为危险的工作[…]。如果机器人取代人类从事某些工作，则必须获得受影响人员的事先同意”[79]。

然而，尽管这些原则出于良好意愿，但若缺乏法律实施（如设计标准），这些规则或原则将无法产生实际效力。

3.4. 性质

性质定义了机器人的具身性程度，包括其构成材料、形态、结构以及能力（行走、爬行、操作、说话、听觉等）。

尽管在智慧城市的概念中，无形的信息领域占据主导地位，但随着机器人被引入城市，机器人的物理特性及其行为的后果将获得新的推动力。然而，机器人不仅是执行器与传感器的集合，它还可以成为人们互动的交互界面；因此，除了通信能力外，其美学外观也变得至关重要。

当我们考虑为城市环境设计的机器人的性质时，不必局限于拟人机器人，因为机器人的外观和材料会根据其任务和操作环境的不同而变化。由于材料变得越来越智能，能够被编程以响应环境，建筑物本身也可能变成机器人。布鲁斯・施奈尔指出：“我们正在构建一个世界规模的机器人，甚至还没有意识到这一点。我开始将这个机器人称为世界规模网络”[80]。

机器人的物理特性要求人们更加关注其行为带来的负面影响，特别是碰撞、挤压等情况。

在安全方面，对在互联网上运行的软件机器人进行黑客攻击可能间接产生非常危险的物质影响，而对在城市环境中运行的机器人（如自动驾驶汽车）进行黑客攻击则直接意味着物理危险。

最后但同样重要的是，设计机器人的外观不仅对机器人功能的顺利实现至关重要，而且如果机器人在有人活动的环境中运行，其外观对于社会可接受性也变得至关重要，即“在特定情境下使用系统或服务的意愿”[81]。可接受性是机器人物理特性与机器人所处空间中人员相互作用而产生的一种非物理属性。在机器人技术领域，社会可接受性已从最初涉及用户对特定服务或技术感知的成本/收益比的一般性问题，发展到涉及可用性、安全、自主性、用户参与程度以及机器人外观等问题。

在之前的一个项目中，我们研究了自主机器人DustCart[13]的外观设计与可接受性之间的关系。我们发现，有四个因素决定了机器人被接受的程度：美学，即机器人在感官上令人愉悦的能力，尤其是唤起用户熟悉感和愉悦感的能力；感知安全性，即用户对机器人危险程度的感知；友好性，即机器人激发与用户交互的能力；以及可供性，即机器人向市民明确表达其功能的能力。

3.5. 自主水平

自主性指机器人在执行任务期间相对于人类监督者的独立程度。首先，自主水平描述了人类操作员与机器人之间的一种交互形式。正如我们在1.2.5节中所看到的，可以识别出不同级别的自主性。

机器人技术的发展趋势，无论是在城市环境还是其他场景中，都是实现完全自主，以提高服务的高效性、经济角度的盈利性以及安全性，同时将人类排除在循环之外。埃隆・穆斯克表示：“人类作为移动安全系统的薄弱环节，终将被自动化机制、安全算法和能够保障无风险出行的传感器所取代”[82]。

然而，“薄弱环节”可能是自主系统，例如在发生故意破坏公物的情况下。事实上，虽然让人类驾驶员相信道路的分隔线突然向道路中心移动在实际中是不可能的，但欺骗机器人却是可能的，因为机器人使用轨道线的末端作为参考点。如果没有专门的安全系统（例如警报器），机器人在面对人为滥用时将无能为力。此外，机器人可能被破坏的方式有很多（例如传感器被贴纸覆盖）。因此，与机器人滥用相关的风险对于所有生活在机器人环境中的个体而言都非常严重。最后，这类危险和风险在设计阶段很难预测，因为它们源于机器人与人类之间的交互。因此，在真实城市环境中缺乏广泛测试的情况下，机器人的安全评估仍然存在严重问题。

选择合适的自主水平不仅取决于可信性[83]，还可能涉及社会可接受性。

关于城市环境，自主系统的社会可接受性仍不确定[84]。根据皮尤研究中心和史密森尼杂志开展的一项调查结果，“美国人对于乘坐无人驾驶汽车持分歧态度：48%的人表示愿意乘坐，而50%的人表示不愿意。观点因教育程度和居住区域而异：59%的大学毕业生愿意尝试无人驾驶汽车，而拥有高中文凭或更低学历的人中有62%不愿尝试。此外，半数城市居民（52%）和郊区居民（51%）对无人驾驶汽车感兴趣，相比之下，只有36%的农村居民感兴趣”[85]。在欧洲，情况大致相同：“超过三分之一的受访者表示可以接受乘坐自动驾驶车辆；约十分之六的受访者表示对乘坐无人驾驶汽车感到不安[…]。受访者对于使用自主或无人驾驶的商用车辆或卡车运输货物的接受度略高于自己乘坐此类汽车[…]。但大多数人（52%）仍然对使用自主或无人驾驶的商用车辆或卡车运输货物感到不安”[86]。

许多因素共同决定了用户偏好（即控制机器人或不控制机器人），这些因素包括个人动机、对技术的态度、对技术的熟悉程度，以及文化和社会因素。因此，对自主系统的信任可能在某些应用的采纳中起到决定性作用。

独立性水平也会影响伦理维度。正如帕特里克・林所指出的，自主机器人无论是汽车还是无人机，在某些危险情况下可能不得不做出伦理决策：“如果机动车要真正实现自主并在我们的道路上负责任地运行，它们就需要复制——甚至超越——人类的决策过程。但有些决策不仅仅是机械地应用交通法规和规划安全路径，它们似乎还需要具备道德意识，而这种能力众所周知难以转化为算法供计算机遵循”[87]。

正如一些学者所指出的，问题在于是否应该赋予算法在特定时间决定什么更有价值的能力（例如，一个孩子和一个工人的生命相比）。软件做出某些选择的能力意味着已经对机器人在某种复杂情况下应如何行为做出了先验决策。然而，人们应当追问：什么是正确的决策？谁来决定，是程序员、用户，还是应由法律强制规定？此外，这一选择将向汽车内外的人公开吗？

最后但同样重要的是法律问题。关于自动驾驶汽车与法律的相关问题，已有大量论述：例如在发生损害时的责任分配（如制造商、程序员、销售商、乘客？）、风险管理（如保险政策）以及应规范自主系统[69, 88, 89]使用的规则，这些仍是存在争议的问题。

此外，机器人通过神经网络、遗传算法或其他形式的人工智能[90]实现学习能力，这对于确保在城市环境等复杂环境中实现高效和安全至关重要，但也可能增加责任认定的难度。然而，我们不应将城市机器人仅仅视为自动驾驶汽车，而应认识到机器人可根据任务的不同而具有不同的形态。

因此，对于在城市环境中运行的机器人而言，自主性的概念引发了根据现有类别（例如内华达州交通法对自动驾驶汽车的定义）对机器人进行“法律资格”界定的本体论问题，以及法律能力[65]的归属问题。最后，自主或远程操作城市机器人将凸显隐私问题，我们将在下一节中对此进行探讨。

3.6. 与人类的交互

在前面的章节中，我们已经讨论了一些交互形式：在机器人设计过程中利益相关者的参与，以确保社会可接受性；自主水平，它决定了用户类型（例如专家或非专家），从而影响交互方式、接口类型等；最后是故意破坏公物现象，我们将其视为城市环境的一种属性，但它也是一种交互形式，尽管是一种负面的交互。

诸如故意破坏公物之类的交互形态提醒我们，在为城市等公共环境设计机器人时，不仅需要考虑用户类型、其认知和物理特征等因素，同样重要的是还要考虑那些涉及与机器人共享环境的旁观者或路人的间接或被动交互形式。我们指的是所谓的旁观者或路人这类“用户”[20]，即那些恰好与机器人共享环境的人。

事实上，人机交互不仅通过身体或语言接触发生，还可以通过机器人外观或行为所传达的“意义”进行。因此，我们决定将机器人DustCart的功能意义融入其外观设计中。由于该机器人被设计用于公共环境（即行人区域），并且可能与任何人发生交互，我们认为有必要让用户、路人以及旁观者能够立即识别出机器人的功能[13]（这一特性我们借用著名的“可供性”原则来命名），至少在机器人运行期间能够保持安全距离。

然而，在本节中，我们希望探讨人机交互过程中的安全与保障问题。事实上，机器人与人类之间的交互可能会带来新的风险与危险。这一担忧尤其涉及为市民提供服务的机器人，包括那些用于城市环境、并越来越多地依赖认知、社交和情感能力进行交互的机器人：“在社会护理、零售和娱乐相关应用中，社交智能将在提高可接受性与部署水平方面发挥关键作用”[16]。事实上，除了众所周知的因机器人与人类碰撞所导致的物理危害外，依赖社交交互形式的趋势可能引发新的心理风险与危险，我们在其他地方将其定义为“软性风险”，以区别于源自物理碰撞的“硬性风险”[7, 69]。这些软性风险包括新型的人类脆弱性[91, 92]，例如对机器人关注的情感或情绪依赖[93]、照顾机器人的强迫行为[94]，或所谓的“环境代际失忆”[95]，即现实正逐渐被技术替代品所取代。有必要开展纵向研究，以理解这些影响的深远意义。

最后，鉴于我们刚刚提到的软性危险，我们认为在未来城市中，人机交互不应取代人际互动形式，这一点非常重要。这不仅是机器人工程师的责任，也是建筑师和城市规划师的责任。前者应避免在机器人中设计类人个性，后者则应确保在机器人化或智慧城市中，依然存在让人们在此时此地相互交往的空间和手段。风险在于，随着智能城市物体、物联网和社交机器人的日益普及，我们可能会更多地与数字或人工的事物建立联系，从而牺牲了面对面的人际关系。这些风险更为严重，因为如今机器人可以被用作社交媒体或设备，具有双重可能性：既可将人们彼此相连，也可将其连接到软件代理或社交机器人等人工社会实体[96]。正如[97]所指出的，与机器人的交互必须符合伦理、法律和社会原则与规范。

事实上，与机器人的交互也涉及法律问题，特别是机器人出现在公共空间以及它们能够与人密切协作并在物理（以及数字）环境中移动（从而获取大量敏感个人数据）引发了隐私担忧[12]。尽管隐私问题并非新议题，但随着机器人和智能设备日益普及，人们对意识、透明度和保护的需求可能会进一步增加。

4. 结论

从计算机辅助设计到机器人建造者；从下水道检查到玻璃幕墙清洁机器人；从自动驾驶汽车和无人机到人形机器人；在接下来的几十年里，城市环境可能会受益于大量创新技术，这些技术有望改善市民生活质量。然而，无论城市变得多么智能或自动化，如果技术革新缺乏社会可接受性作为基础，就有可能成为空洞的概念。首先，无论是城市交通、卫生、安全、可达性还是污染等问题，机器人技术都应成为满足社会需求的工具。

因此，我们应该将负责任的应用与那些仅仅将机器人作为潮流物品、市场传播工具或经济利益产物的应用区分开来。

然而，我们指出，实现社会期望的目标并不足以实施真正负责任的创新。事实上，社会可接受性有时可能是技术修复态度的结果，有时可能与伦理原则、法律法规或社会和文化方面发生冲突。

在本文中，我们提出了一种方法，用于识别机器人与城市环境的属性交互所产生的意外后果。特别是，我们关注了环境的非物理属性，例如故意破坏公物现象、城市礼仪规范、对技术替代的社会抵制，以及最终由人机社会互动引发的新“软性”风险。

总体而言，我们希望提高读者的意识：在引入一项新技术时，我们不仅试图解决社会需求，还会引发一系列意想不到的社会、伦理的、法律和文化方面的反应。

最后，正如山姆・雅各布指出的那样，未来城市‘体现（并强制执行）完整的世界观，作为围绕特定技术观念组织起来的新社会形态的完整模型。而且，如同它们的维多利亚时代 counterparts 一样，它们也在推广一种特定的社会观念’[97]。诸如无人机、自动驾驶汽车、类人形家务机器人、增强现实设备和远程呈现平台等创新技术（仅举几例）所隐含的社会观念又是什么？

城市作为会面场所的功能是否面临消失的风险？如果连接和交互通过手机、机器人和其他智能设备进行，城市环境还剩下什么？在拥抱技术带来的新可能性的同时，建筑师、城市规划师和机器人专家应在人的尺度而非技术尺度上设计城市。风险在于，此处的物理的、人的维度可能被技术界面所取代。