15、AI偏见：从技术失误到社会挑战

AI偏见：从技术失误到社会挑战

1. Google Photos的“大猩猩”标签事件

2015年6月的一个周日，软件工程师Jacky Alciné在浏览朋友分享到Google Photos的照片时，发现自己的照片被重新分类，其中一个文件夹标签为“大猩猩”。打开该文件夹后，他发现里面是近一年前在附近公园音乐会上为一位非裔美国朋友拍摄的八十多张照片。

他将此情况截图发布到Twitter上，表达不满：“Google Photos，你们搞砸了。我的朋友不是大猩猩。”谷歌员工很快联系他，随后谷歌公开道歉，并移除了“大猩猩”标签，且在之后五年都禁止用户搜索该词。

这一事件的根源在于谷歌训练神经网络识别大猩猩时，使用了大量大猩猩照片，却未意识到其副作用。训练神经网络时，工程师有责任选择合适的数据，但即便他们谨慎选择，也可能因训练规模大、数据和计算量多，而无法完全理解机器学到的内容。Jacky Alciné将此比作做千层面，若前期配料出错，整个千层面就毁了，AI也是如此，输入数据必须慎重。

2. Clarifai的数据分析偏差

Matt Zeiler在赢得ImageNet竞赛后拒绝了谷歌的高薪工作，创办了Clarifai公司。该公司致力于构建自动识别数字图像中物体的技术，并将其出售给企业、警察部门和政府机构。

2017年，Deborah Raji在Clarifai办公室发现，公司用于训练人脸识别软件的图像中，超过80%是白人，其中超过70%是男性。用这样的数据训练系统，可能对识别白人效果较好，但对有色人种和女性的识别效果会很差。

此外，Clarifai构建的内容审核系统也存在问题。该系统通过从在线色情网站获取的数