7、道德理论：从机器伦理到人类直觉

道德理论：从机器伦理到人类直觉

1. 道德理论的分类与应用

在道德理论的探讨中，有一种观点将违反人们生命、健康、自由或财产的行为归为一类，并引入严格约束，未经明确同意绝不实施此类行为，其他行为则被归为允许的范畴。以溺水儿童为例，不救助溺水者的行为通常被认为是允许的，因为这属于不作为。而且，强迫某人牺牲财产去拯救他人生命在道德上是错误的，因为这跨越了权利边界（消极义务）去实现帮助他人的积极义务。

1.1 美德伦理与机器学习

一些机器伦理学家认为，可以利用美德伦理与机器学习技术之间的联系，避免其他道德理论带来的复杂性。例如，Bruce McLaren的“Truth - Teller”算法使用机器学习方法处理工程伦理问题。它利用伦理委员会对数百个案例的判断数据，将从这些案例中提取的特征应用到新的案例中，类似于法官依据案例历史、医生依据临床实例进行决策。

1.2 美德学习算法在溺水儿童场景中的应用

对于溺水儿童场景，由于社会中大多数人认为距离是一个与道德相关的特征，这种学习系统可能会学习一种权衡函数，考虑痛苦的接近程度、感知到的痛苦程度以及为防止痛苦所需做出的牺牲。不同的“训练集”人群会导致这种函数有所不同。大多数美德伦理算法可能会为救溺水儿童舍弃新鞋，但不会为拯救遥远国家营养不良的儿童这么做。同时，该学习算法可能会从我们的实际判断中提取出识别“紧急情况”的特征，因为紧急情况具有更强烈的情感显著性，尽管这有时会阻碍人们做出更理性的决策。

2. 选择道德理论的困境

我们面临着将哪种道德理论编入机器的问题，这取决于道德理论的目的以及道德价值的来源。

2.1 道德理论的评估难题 <