2021-05-25

我们为什么需要“负责人的人工智能”？

对一些人来说，人工智能这个术语可以激发人们对进步和生产力的思考。对其他人来说，前景不那么乐观。许多担忧，如不公平的决定、被替换的工人、缺乏隐私和安全性都是有效的。更糟的是，这些问题中的许多都是人工智能独有的。这意味着现有的准则和法律不适合处理这些问题。这就是负责AI的地方。它的目标是解决这些问题，并为AI系统建立问责制。

 

为什么我们需要负责任的人工智能？

当我们谈论AI时，通常指的是一个机器学习模型，在系统中用于某些东西的自动化。例如，自驾汽车可以从传感器上获取图像，机器学习模型可以使用这些图像来进行预测，然后被汽车用来做决定。我们把整个系统称为AI。

AI可以用于任何从保险承保到癌症检测的东西。这个定义的特点是，系统所做的决策没有人工的投入有限。这可能导致许多潜在问题，需要定义一种使用人工智能的明确方法。负责任的人工智能是旨在做到这一点的治理框架。

 

该框架可以包括关于可以收集和使用哪些数据，应该如何评估模型以及如何最佳地部署和监视模型的详细信息。该框架还可以定义谁负责应对人工智能的任何负面结果。他们都在追求同样的目标。也就是说，要建立一个可解释的、公平的、安全的、尊重用户隐私的人工智能系统。

负责任的人工智能的目标

当我们解释一个模型时，我们得到了它是如何对预测的解释。人工智能系统可以拒绝抵押贷款申请或诊断癌症。负责任的人工智能可以定义我们如何构建可解释的模型，或者何时可以使用一个不太可解释的模型。

 

人工智能系统有可能作出歧视某些群体的决定。这种偏差来自用于训练模型的数据中的偏差。一般来说，训练模型越容易解释就越容易确保公平。我们仍然需要一个负责任的人工智能框架来定义如何评估公平性，以及当发现模型做出不公平预测时该怎么做。

安全对软件开发来说并不新鲜，而是通过加密和软件测试等技术来解决的。不同之处在于，与一般计算机系统不同，人工智能系统不是确定性的。当面对新场景时，AI可以做出意想不到的决定，甚至可以操纵系统来做出错误的决定。如果他们犯错误，就会出现像自动驾驶汽车一样的事故。

在隐私和数据治理方面，所用的数据质量是非常重要的。如果人工智能所使用的数据存在错误，系统可能会做出错误的决定。在欧洲，GDPR对隐私数据管理非常严格，解决了很多数据问题。

 

最终，这一切归结为信任。如果用户不信任AI，他们将不会使用您的服务。信任的需要是推动使用人工智能的公司自律的动力。

负责任人工智能的未来

目前，在人工智能方面，企业有望自我监管。这意味着他们必须创建并实施自己负责的人工智能准则。像谷歌、微软和IBM这样的公司都有自己的指导方针。其中一个问题是，负责任的人工智能原则可能在不同行业中应用不一致。小公司甚至可能没有资源来创建自己的公司。

一个可能的解决办法是所有公司都采用相同的准则。例如，欧盟委员会（europeancommission）最近公布了可信人工智能的道德准则。这详细说明了人工智能应该被认为是可信的7个关键要求。使用这些准则将有助于公司确保其人工智能系统符合相同的标准。真正的问题是——我们能相信公司能自我监管吗？

 

《2020年人工智能和机器学习状况报告》包含了374家从事数据/人工智能工作的组织的回复。75%的组织表示，人工智能是其业务的关键部分。然而，只有25%的人认为公平的人工智能很重要。换言之，准则必须成为法律/法规，公司必须因不遵守这些准则而受到惩罚。

​在欧洲，最近提出了新的法规，基于上述道德准则，将影响许多行业。目前，美国还没有这样的监管。尽管如此，谷歌、Facebook、微软和苹果等科技公司的高管们都呼吁加强对数据和人工智能的监管。所以这只是时间问题。