2、深度学习时代下贝叶斯推理的应用与挑战

深度学习时代下贝叶斯推理的应用与挑战

深度学习的辉煌与局限

深度学习在当今科技领域取得了令人瞩目的成就。以生成对抗网络（GANs）为例，它不仅能生成逼真的人脸，还在药物研发等众多领域有实际应用，比如为药物发现建议分子组合。同时，GANs 通过数据增强来改进其他机器学习方法，利用其生成的数据扩充数据集。然而，这些成功并不意味着深度学习无懈可击。下面我们将探讨深度学习存在的一些问题，以及贝叶斯方法如何帮助避免这些问题。

深度学习系统中的偏差问题

数据驱动方法面临的一个关键问题是偏差，亚马逊的 AI 招聘软件就是一个典型案例。亚马逊作为一家电商巨头，在技术上取得了显著进步。为了提高招聘效率，2014 年其机器学习工程师部署了一款用于筛选简历的工具。该工具基于过去 10 年的求职者数据进行训练，旨在从大量求职者中识别出有利特征。但到了 2015 年，问题出现了，该工具表现出严重的偏差，对女性求职者极为不利。这主要是因为当时科技行业的特点，亚马逊的简历数据集以男性求职者为主，导致模型学会了偏爱男性。最终，这个项目因模型的歧视性表现而被放弃。

需要注意的是，这种偏差不仅仅由明确信息（如姓名暗示性别）驱动，算法还会学习潜在信息，从而引发偏差。因此，仅对人员进行匿名化处理并不能解决问题，工程师和科学家需要全面评估偏差，确保所部署的算法公平。贝叶斯方法虽不能消除偏差，但能提供一系列工具来解决这些问题。贝叶斯方法可以判断数据是分布内还是分布外（OOD）。在亚马逊的案例中，若使用贝叶斯方法，可分离出 OOD 数据并分析其原因，判断是与求职者经验等相关因素，还是与性别等无关且具有歧视性的因素，从而帮助团队早期发现不良行为，开发出无偏差的解决方案。

过度自信预