7、道德理论与理性化：探讨机器伦理与人类道德判断

道德理论与理性化：探讨机器伦理与人类道德判断

1. 道德理论分类与应用

在道德理论的探讨中，存在一种观点，即识别出那些侵犯人们生命、健康、自由或财产的行为类别，并引入严格约束，未经明确同意绝不实施这些行为，其他行为则被归类为允许的。以溺水儿童的情况为例，不救助溺水者的行为总是被允许的，因为这涉及不作为。实际上，强迫某人牺牲财产去拯救他人生命在道德上总是错误的，因为这跨越了权利边界（消极义务）去服务于帮助有需要的人（积极义务）。

1.1 美德伦理与机器学习的结合

一些机器伦理学家提出，可以利用美德伦理与机器学习技术之间的联系，避免其他道德理论的复杂性。例如，Bruce McLaren的“Truth - Teller”算法使用机器学习方法处理工程伦理问题。它利用伦理委员会对数百个案例的判断数据，将从该数据集中提取的特征扩展到新的案例，类似于法官根据案例历史做出决策，医生根据临床实例进行判断。

1.2 美德学习算法在溺水儿童场景中的应用

对于溺水儿童场景，由于社会中大多数人将距离视为道德相关特征，这种系统可能会学习一个权衡函数，权衡痛苦的接近程度、感知到的痛苦程度以及为防止痛苦而必须做出的牺牲。不同的“训练集”人群会导致这种权衡函数不同。大多数美德伦理算法可能会舍弃新鞋子去救溺水儿童，但不会为拯救遥远国家营养不良的儿童而这样做。此外，该学习算法可能从我们的实际判断中提取出对“紧急情况”的识别，紧急情况具有情感显著性，这与长期问题不同，尽管这种情感显著性常使人难以做出更理性的决策。

1.3 面临的问题

我们面临的问题是，应该将哪种道德理论编入机器？这取决于道德理论的目的以及道德价值的来源。