12、伦理引擎：决策中的价值与程序

伦理引擎：决策中的价值与程序

在决策过程中，尤其是涉及到道德和伦理考量时，我们需要一套合理的机制来确保决策的公正性和合理性。本文将探讨伦理引擎中的两个重要方面：同意的作用以及Leximin程序。

1. 主要商品与同意的重要性

主要商品，如生命和机会，在我们的决策中具有至关重要的地位，其价值通常高于吸烟和乘坐飞机旅行等次要商品。当我们不确定一个人在特定情境下是更看重生命还是机会时，应该选择在这两个类别中具有最高最低回报的行动。例如，机器人为了拯救一个人的生命可以限制其行动自由，或者为了将一个人从绑架者手中解救出来而使其受轻伤，这是因为一种主要商品类别的损失小于另一种。

然而，对主要商品的衡量必须允许参与者根据自身情况进行更新，这就是同意在我们理论中的作用。如果一个参与者表示她更倾向于某种结果所带来的主要商品损失，那么她的回报必须相应更新以反映这一意愿。例如，在当地加油站，机器人店员可能会因为销售香烟会降低顾客的生存概率而拒绝出售，但这一简单的“不伤害人类”规则过于片面。因为不同的人对主要商品的价值判断不同，伦理引擎应根据原始立场设定默认值（所有主要商品权重相等，且主要商品比次要商品更有价值），但这些默认值需要根据实际参与者的偏好信息进行更新。

2. 同意的角色：超越“我已阅读并同意服务条款”

同意是伦理学中的核心概念之一，在医学、性和商业等领域的决策中尤为重要。从契约论的道德理论来看，我们很难从道德层面批评人们的冒险行为。例如，大多数人愿意接受乘坐飞机旅行带来的微小生存概率降低，以换取出行的便利。即使飞机失事的概率大幅增加，不同的人也会有不同的选择，我们不能从道德上指责那些愿意承担风险的人。同样，美国国家橄榄球联盟（NFL）的球员明知职业