机器学习大学推出负责任AI课程，聚焦偏见缓解

机器学习大学（MLU）近日推出了一门新课程：“负责任AI——偏见缓解与公平性标准”。 在这门免费、公开访问的在线课程中，学生可以学习负责任AI的多个维度，包括如何准备数据、在模型训练中缓解偏见，以及许多其他关于偏见缓解和公平性的方面。

该课程与某中心网络服务新推出的“AI服务卡片”形成互补，后者提供了关于预期用例和限制的负责任AI文档。米娅·梅耶尔，一位数据科学家兼MLU讲师，也是本课程的开发者，她自己的研究曾深入探讨偏见问题。在此，她讨论了课程内容以及学生的学习情况。

问：请介绍一下这门负责任AI课程。适合谁学习？课程结构如何？

答：负责任AI是一门入门级课程，面向技术人员，目标是解释AI系统中偏见的来源、如何衡量它，以及最终如何尽可能地缓解偏见。

学习这门课程不需要任何机器学习知识，但对Python编程和高中数学有些了解会更有帮助。除了录制的讲座，我们还为学生在线提供了白皮书、利用某中心服务的代码示例和其他资源。作为最终项目，学生需要实现自己选择的偏见缓解技术，以减少模型结果在不同亚群体间的差异。

课程提供了大量关于如何构建机器学习模型的基础材料，因此它是进入MLU提供的所有其他课程（从决策树和集成方法到自然语言处理）的良好衔接。

问：是什么促使您在MLU的课程中加入这门课？

答：驱动这门课程的既有业务需求，也有个人热情。在我自己的工作中，随着接触越来越多的机器学习项目，我注意到房间里的很多人都是男性。这在我心中引发了疑问：“其他群体是否得到了与男性同等程度的考虑？我们是否有足够的多样性和代表性？当机器学习解决方案主要由某一特定人群开发时，可能会出现什么问题？”

在业务方面，我们看到监管要求越来越多，例如欧盟的《通用数据保护条例》和《人工智能法案》，或美国的《主要理由框架》。这无疑引发了人们对该主题的更多兴趣。与遵守法规同等重要的是，某机构的目标是负责任地使用和开发机器学习与AI系统。最终，衡量和缓解偏见对于建立信任以及评估AI系统和模型的风险是必要的。未能缓解偏见可能导致信任的丧失，并使部分客户群体处于不利地位。

问：为什么选择这个主题？

答：机器学习正在飞速发展——预计未来还会增长更多，到2025年，全球在基于AI的技术上的支出预计将达到2040亿美元。它触及我们客户生活的许多方面。

我们想要确保机器学习模型和API的开发和使用都是负责任的。这门课程也呼应了某机构新的领导力原则：“成功和规模带来广泛的责任”。

问：您是如何着手准备这门课程的？

答：我希望涵盖机器学习生命周期每个阶段的偏见问题。在开始收集课程材料时，我注意到没有任何免费提供的课程能同时从理论和代码上涵盖完整的机器学习流程。

许多其他课程只关注一个子组件，例如在训练模型之前测量偏见。我希望为学生提供机器学习生命周期每个阶段的实践动手技能和代码示例，从机器学习问题的构思一直到部署。

问：能否举例说明偏见如何在机器学习中引发问题？

答：一个常见的机器学习问题是分类，模型会给出不同类别的结果，例如“批准”或“拒绝”，或者是否向某人展示广告。

机器学习模型对某一个亚群体（由具有不同属性的个体组成）的表现可能远好于另一个亚群体。这完全是关于在测量某种我们想要在不同亚群体间强制的公平性，以尽可能减少差异。

问：目前从学生那里听到了什么反馈？

答：总的来说，我们得到了非常积极的反馈，就讨论的活跃程度而言，这是我们最受关注的课程之一。

许多学生的“顿悟时刻”是：你可以制作一个公平的算法，但这并不意味着它的性能就高。例如，你可能有一个拒绝所有申请者的模型。从技术上讲，这是公平的——每个人都得到相同的结果——但这显然也是不可取的。学生们常常惊讶地发现，你需要有两个指标来评估一个机器学习模型：性能和公平性。你不能只取其一。

问：您希望学生从这门课中学到什么？

答：没有唯一正确的方法。有许多不同的偏见缓解技术，这对于机器学习生命周期的每个组成部分都是如此。关键是要努力理解偏见来自哪里，而不是盲目地假设没有任何偏见。

我还希望学生认识到，他们可以在实践中使用科学方法来帮助缓解偏见。很多时候，人们观察甚至量化了偏见问题，但他们真的不知道该怎么办。这门科学非常新，但它正在取得巨大进步，并且已经达到了可以在实践中用来缓解偏见的程度。
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）