4、失控：通过具身设计与护理机器人共同成长

失控：通过具身设计与护理机器人共同成长

1. 有意义的人类控制：一个未完成的谜题

随着人工智能（AI）系统在公共领域的普及，明确此类系统行为责任的需求日益增长。以自动驾驶汽车与行人发生交通事故为例，谁应为造成的伤害负责？是车内的人（如果有的话）、设计师、制造商、行人还是政府？是否存在共同责任？一种新兴的解决思路是从“有意义的人类控制”（MHC）的角度来阐释这些问题。这里的“有意义”指的是一种基于道德的强大控制形式。近期关于MHC的研究强调人类在道德情境中应具备引导控制的能力，即人类应能够使与AI交互产生的行为符合自身的内在价值观。

然而，目前对MHC的阐释仍不完整。将MHC框架与引导控制理念相结合时，MHC要求人类在行动前后能够追踪和反思与该行动相关的原因。但许多人类行为，甚至是具有道德意义的行为，都是自动且非反思性的。强迫个体解释其行为可能会导致虚构，从而破坏推理与行动之间的理想关系。此外，知道正确的事情与实际去做之间仍存在差距，这意味着依赖引导控制的MHC解释可能无法涵盖所有涉及人工智能体责任问题的场景。

为了拓展现有的MHC方法，我们可以借鉴美德伦理学的哲学传统。美德伦理学家关注的问题是如何过上有价值的生活，他们更强调培养个体的道德品格和积极习惯，而非一般性的抽象规则和义务。通过考虑个体在不同情况下如何实现道德成长，美德伦理学为我们提供了一种工具，可扭转MHC方法单纯关注伤害最小化的伦理倾向。为了展示基于美德的视角如何丰富MHC的讨论，我们将聚焦于医疗保健领域，特别是护理机器人在人类护理中的作用。

2. 扩大护理人员对互惠和同理心的控制

由于全球医疗保健成本的增加和使用需求的上升，尤其是人口快速老龄化，医疗专业人员和政策制定者正在考虑甚至已经