机器学习机构推出负责任AI课程

机器学习机构推出负责任AI课程

某机构机器学习学院近期推出了新课程"负责任AI—偏见缓解与公平标准"。在这项免费公开的在线课程中，学员将学习负责任AI的多个维度，包括如何准备数据、在模型训练期间缓解偏见，以及偏见缓解和公平性的诸多方面。

该课程补充了某中心云服务新推出的AI服务卡片，这些卡片提供了关于预期使用案例和限制的负责任AI文档。

课程概述与结构

问：请介绍负责任AI课程。哪些人可以参加？课程结构如何？

答：负责任AI是一门入门级课程，面向技术背景的学习者，旨在解释AI系统中偏见的来源、如何测量偏见，以及最终如何尽可能缓解偏见。

学习本课程不需要任何机器学习知识，但熟悉Python编程和高中水平的数学会有帮助。除了录制的讲座外，还提供了白皮书、利用某中心云服务的代码示例和其他在线资源供学员使用。在最终项目中，学员需要实施自己选择的偏见缓解技术，以减少模型对不同亚群结果差异。

课程提供了大量关于如何构建机器学习模型的基础材料，因此它是进入机器学习学院提供的所有其他课程的很好过渡，从决策树和集成方法到自然语言处理。

课程开发背景

问：是什么促使您在课程中增加这门课？

答：这门课程的推出既有业务需求，也有个人热情驱动。在工作中，随着接触更多不同的机器学习项目，注意到会议室里的很多参与者都是男性。这引发了思考：“其他身份是否得到了与男性同等程度的考虑？我们是否有足够的多样性和代表性？当机器学习解决方案主要由特定人群开发时，可能会出现什么问题？”

在业务方面，看到越来越多的监管要求，如欧盟的《通用数据保护条例》和《人工智能法案》，或美国的《主要理由框架》。这无疑引发了对此主题的更多兴趣。与遵守法规同等重要的是，在某中心云服务的目标是负责任地使用和开发机器学习与人工智能系统。最终，测量和缓解偏见对于建立信任和评估AI系统及模型的风险是必要的。未能缓解偏见可能导致信任丧失并使客户亚群处于不利地位。

课程内容设计

问：为什么选择这个主题？

答：机器学习正在迅速增长——预计还会增长更多，到2025年全球基于AI的技术支出预计将达到2040亿美元。它触及客户生活的许多方面。

希望确保机器学习模型和API的开发和使用都是负责任的。这门课程补充了新的领导原则：“成功和规模带来广泛责任。”

问：您是如何设计这门课程的？

答：希望涵盖机器学习生命周期每个阶段的偏见方面。开始收集课程材料时注意到，没有任何免费可用的课程同时涵盖完整机器学习管道的理论和代码。

许多其他课程只关注一个子组件，比如在训练模型之前测量偏见。希望为学员提供生命周期每个阶段的实践技能和代码示例，从机器学习问题的构思一直到部署。

偏见实例与影响

问：能否举例说明偏见如何在机器学习中产生问题？

答：人们试图解决的一个常见机器学习问题是分类，模型提供不同类别的结果，如"批准"或"拒绝"，或者是否向某人展示广告。

机器学习模型对一个亚群（包含具有不同属性的个体）的表现可能远好于另一个亚群。关键是拥有某种公平性度量，希望在不同亚群中强制执行，以尽可能减少差异。

学员反馈与收获

问：到目前为止，学员的反馈如何？

答：总体收到了非常积极的反馈，就讨论的活跃程度而言，这是参与度最高的课程之一。

对许多学员来说，一个"顿悟"时刻是意识到可以创建一个公平的算法，但这并不意味着它的性能很高。例如，可能有一个拒绝所有申请者的模型。从技术上讲，这是公平的——每个人都得到相同的结果——但显然也是不可取的。学员常常惊讶地发现需要两个指标来评估机器学习模型：性能和公平性。不能只做其中一个。

问：希望学员从这门课中学到什么？

答：没有一种唯一正确的方法。有许多不同的偏见缓解技术，这对机器学习生命周期的每个组件都是如此。关键是试图理解偏见的来源，而不是盲目假设没有任何偏见。

还希望学员认识到，有一些科学方法可以在实践中帮助缓解偏见。很多时候，人们观察甚至量化偏见问题，但不知道该如何处理。这门科学非常新，但正在取得巨大进步，并且已经达到可以在实践中用于缓解偏见的程度。

更多机器学习学院资源

• 机器学习学院向公众提供在线课程
• 机器学习学院推出关于决策树的高级课程
• 机器学习学院通过MLU Explain添加互动课程
• 在官方机器学习学院网站查看所有可用课程并获取更多信息
  更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
  对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）