2、可解释与道德人工智能入门

可解释与道德人工智能入门

1. 人工智能的变革与挑战

人工智能（AI）和机器学习极大地改变了我们的生活。在它们的推动下，科技进步深刻影响了社会、经济、政治等各个方面。新冠疫情更是加速了自动化对现代企业的塑造。然而，这种快速变革并非没有风险。将事务交给机器处理存在固有成本和挑战，有些问题显而易见，有些在使用AI系统时才会显现，还有很多可能尚未被发现。

工作场所的未来不仅在于自动化那些单调、重复和危险的工作，还在于取代人类的决策权力。自动化正迅速成为人类决策的替代品，从电影、新闻、书籍和产品推荐，到决定谁能获得假释或被大学录取，机器逐渐取代了曾经被认为是人类独有的能力。这些技术“黑箱”最大的威胁是通过AI模型放大和延续系统性偏见。

通常，当人类偏见在个体中产生、延续或强化时，社会中会有一些对抗因素和纠正措施来实现某种平衡，并限制不公平或偏见的广泛传播。但从技术角度看，我们在人类历史上从未进行过如此大规模的实验。这种偏见可能很微妙，由优化成本函数的模型推动，再通过强化观念或纯粹的实用性延续下去。我们多次看到人类会为了便利而牺牲隐私，比如很多人在未阅读最终用户许可协议（EULA）的情况下就接受了。

虽然有人呼吁在政府、行业和其他相关利益方全球范围内确保AI被充分理解和控制之前，暂停前沿AI的发展，但这对那些希望从争议较小的AI系统中受益的企业来说并无帮助。随着企业在数据和AI领域的成熟，它们完全有可能确保所开发和部署的AI是安全、公平和道德的。

2. AI治理的必要性

想象这样一则新闻标题：“从2029年1月1日起，高速公路上禁止所有手动和半自动驾驶车辆行驶。除行人、自行车、电动自行车和非机动车辆外，只有符合智能交通网格的全