6、迈向负责任AI的调试

迈向负责任AI的调试

一、负责任机器学习的重要性

开发成功的机器学习模型不仅仅是追求高性能。我们在提升模型性能时会感到兴奋，并且认为自己有责任开发出高性能的模型。但我们同样有责任构建公平且安全的模型，这些超越性能提升的目标，是负责任机器学习乃至更广泛的负责任人工智能的重要组成部分。在进行负责任的机器学习建模时，我们在训练和预测模型时应考虑透明度和问责制，并为数据和建模过程建立治理体系。

二、机器学习中的公正建模公平性

2.1 偏差示例

• 招聘场景 ：2014年，亚马逊开发了一个基于机器学习的招聘工具，用于筛选求职者。然而，该模型在招聘过程中存在偏向男性的问题，最终被放弃。原因是输入模型的数据主要是男性简历，导致模型对女性简历的处理效果不佳，无法在性别方面保持中立地对求职者进行排名。
• 医疗场景 - 住院预测 ：一些机器学习模型用于预测住院可能性，可降低个人和群体的医疗成本。但由于住院与社会经济条件相关，用于构建模型的数据集可能对高社会经济条件人群有更多的积极数据，这会导致模型在决策时产生偏差，进一步限制低社会经济人群的住院机会。
• 医疗场景 - 基因研究 ：基因研究因未充分考虑人群多样性而受到批评，可能导致对所研究疾病的误诊。

2.2 偏差来源

2.2.1 数据偏差

• 数据收集偏差 ：收集的数据可能包含各种偏差，如性别、种族、社会经济等方面的偏差。例如，仅使用白天的图像训练自动驾