9、人工智能与增强现实：数字梦想与现实挑战

人工智能与增强现实：数字梦想与现实挑战

1. 数字梦想与噩梦的交织

人工智能（AI）和增强现实（AR）技术为我们带来了无限的数字梦想。AI 系统能够通过新的生成文本形式，将在线修辞形式反馈给我们，拓展成越来越奇异或混乱的独白。然而，这些梦想也可能迅速变成噩梦。

1.1 商业利益与技术偏见

当前，AI 和 AR 技术的发展深受商业利益的影响。这些技术所依赖的数据集大多由企业控制以获取利润，而非为了个人或社会的利益。艺术家在测试这些技术和数据集的局限性方面发挥着重要作用，同时也能提高公众对相关利益的认识。

例如，艺术家 Sam Lavigne 和 Tega Brain 的作品《美好生活》（The Good Life），凸显了像安然公司（Enron）这样的企业组织通过 AI 机制所产生的持续影响。2002 年，美国联邦能源监管委员会将安然公司员工的 60 多万封内部电子邮件公开。这些文本后来成为自然语言处理和机器学习系统的训练数据集，导致安然公司的语言和文化模式及偏见在 AI 系统中被复制。这引发了一个问题：我们更希望通过模仿安然公司、莎士比亚作品，还是其他文本训练的机器视角来看待世界？

AI 的偏见是一个广泛存在的问题。历史上，在就业、贷款和住房等领域，AI 系统已表现出不公平性。例如，如果 AI 系统主要基于男性数据进行训练，它可能会倾向于男性求职者而不是同样合格的女性求职者；在评估贷款申请时，它可能会存在种族歧视，或者使生活在低社会经济地区的人处于不利地位。此外，AI 算法往往是“不可解释的”或“黑箱”，我们无法完全理解系统如何做出决策，也就难以确保其无偏见性。

1.2 缺乏监管的风险

如果不