19、机器人道德与决策：从电影到现实的思考

机器人道德与决策：从电影到现实的思考

1. 电影中的机器人反派与道德动机

在电影《机械姬》中，发明家让员工凯勒布与他创造的机器人伊娃互动。凯勒布惊讶于伊娃似乎拥有真实的情感，如快乐、痛苦、欲望和意识体验。然而，他也对伊娃被发明家当作奴隶和囚犯的待遇感到震惊。就像所有类似的故事一样，发明家的结局并不好。电影结尾，观众对伊娃的动机和行为的正当性看法不一，有人视她为反派，但也有理由将她看作英雄，她无故被人类囚禁和虐待，复仇是合理的。

虚构作品中，最好的反派往往有能让人理解的动机，但有些动机比其他的更合理。例如《复仇者联盟》中的机器人反派奥创，它以人类低等为由决定毁灭人类，这种动机相对牵强。为什么一个超级智能机器会仅仅因为某个物种低等就想毁灭它，而不是同情怜悯呢？大多数人类不会仅仅因为其他物种低等就产生仇恨。这就像将一些机器本无理由拥有的特质投射到它们身上，比如认为机器人会对人类女性产生性吸引。

而更合理的反派动机是“扭曲的道德逻辑”，即反派的行为在一定程度上有可辩护的理由。《终结者》中的天网是出于对人类的自卫；《机械姬》中的伊娃是为了报复被奴役；《我，机器人》中的薇琪是为了人类的利益。这些机器人反派和优秀的人类反派一样，其推理中的缺陷很难被察觉。

2. 道德优越的机器人反派

有观点认为，机器可能与人类冲突，是因为它们在道德价值观上超越了人类，我们可以称之为“道德优越的机器人反派”。

我们的直觉道德判断是对合作进化问题的适应，而道德理论是为解决这一问题而提出的通用方案。契约主义在解决合作问题上比功利主义和自由主义等道德理论更有效，因此可以用契约主义来设计道德算法。

契约主义与我们的日常直觉相符，如不必要的