2、人工智能的捷径与伦理挑战

人工智能的捷径与伦理挑战

1. 人工智能发展背景与问题浮现

科学技术的发展受社会文化因素影响，其中一些被广泛接受的实践往往被视为理所当然，托马斯·库恩将这些实践的典范故事称为“范式”。范式转变不仅是科学创新的重要时刻，还会产生科学之外的影响。当前人工智能（AI）的范式背后有三个关键“突变”，它们也导致了该领域的“伦理债务”。

过去几年，随着人工智能驱动的服务广泛部署，一系列问题逐渐浮现，如无处不在且常不可见的软件代理进行个性化决策，包括新闻推荐、视频推荐、邮件过滤等。这些问题常被视为设计缺陷，但实际上它们是约二十年前人工智能范式转变的直接结果，更具体地说是三个重要捷径促成了当前方法的发展。这里所说的“伦理债务”类似于软件工程中的技术债务，指的是为使系统符合当前社会期望而进行重新设计所需的成本。

人工智能在过去二十年逐渐发展出可行且盈利的形式，但直到最近几年，其广泛应用才让我们深刻感受到它对社会的影响。我们也开始意识到这项技术存在的问题，如大规模监控、个性化广告投放、虚假信息传播、决策偏见和难以解释的决策等。

2. 技术债务与伦理债务

在技术研究中，技术创新与社会背景紧密相连。当前人工智能与统一的数据基础设施共生，人工智能和网络的商业模式共同发展，产生了由自主代理驱动的盈利系统，这些系统每天与数百万人互动。然而，这也引发了一系列问题。

技术债务是软件工程中的概念，指在开发软件系统时走捷径，导致未来需要支付额外成本。这一概念由沃德·坎宁安在1992年提出，他发现技术债务与实际债务有很多相似之处。在追求快速部署时，技术债务可能会累积利息，使后续更改变得越来越困难。

经济学中的外部性概念指第三方在无法控制