4、自动化中的信任与伦理：跨学科视角的探索

自动化中的信任与伦理：跨学科视角的探索

1. 信任、伦理与自动化的背景

在当今科技飞速发展的时代，自动化决策（ADM）和人工智能（AI）被寄予厚望，人们期待它们能成功、合乎伦理、包容且负责地解决社会问题，提高效率、安全性和生活质量。然而，这种技术解决方案主义的叙事存在严重缺陷。一些观点认为技术驱动的社会变革能解决社会和个人问题，但实际上，这种假设过于简单。例如，Abeda Birhane 从非洲女权主义和撒哈拉以南非洲哲学的关系伦理角度，对西方隐喻和哲学在理性主义问题 - 解决方案技术叙事中的运用进行了解构性批判。

1.1 自动化系统的定义

非营利研究和宣传组织 AlgorithmWatch 将 ADM 系统定义为“某种技术（可能远不如深度学习算法复杂或‘智能’）融入决策过程的方式”。ADM 系统涉及一个社会 - 技术框架，包括决策模型、将模型转化为可计算代码的算法、代码作为输入使用的数据，以及围绕其使用的整个政治和经济环境。

1.2 ADM 和 AI 在交通出行中的愿景

在未来的交通出行想象中，ADM 和 AI 无处不在。AI 常被描绘为能在自动驾驶汽车事故场景中做出道德决策的智能技术，而 ADM 则参与到诸如电动汽车充电时机等无形决策中。例如，有观点认为如果汽车能做出正确的道德决策，公众就会信任它；技术也应使决策变得可信。

1.3 信任在技术解决方案主义创新中的地位

在技术解决方案主义的创新过程中，信任被视为个体和社会获得自动化承诺利益的必要条件。许多工程师、公司和政府声称，当 AI 和 ADM 智能技术和系统能为“社会公益”服务时，信任会导致技术的后续接受。因此，研究人类对技术的信任