机器学习大学推出负责任AI课程

机器学习大学推出负责任AI课程

某中心机器学习大学（MLU）近期推出了新课程"负责任AI—偏见缓解与公平性标准"。在这个免费公开的在线课程中，学员将学习负责任AI的多个维度，包括如何准备数据、在模型训练过程中缓解偏见，以及偏见缓解和公平性的诸多方面。

该课程补充了某机构云服务新推出的AI服务卡片，这些卡片提供了关于预期使用案例和限制的负责任AI文档。

课程详情与结构

问：请介绍一下负责任AI课程。谁可以参加？课程结构如何？

这是一个入门级课程，面向技术人员，旨在解释AI系统中的偏见来源、如何测量偏见，以及最终如何尽可能缓解偏见。

学习本课程不需要任何机器学习知识，但熟悉Python编程和高中水平的数学会有帮助。除了录播讲座外，还提供白皮书、使用某机构云服务的代码示例和其他在线资源。在最终项目中，学员将实施自己选择的偏见缓解技术，以减少模型结果在不同亚群体间的差异。

课程提供了大量关于如何构建机器学习模型的基础材料，是从决策树和集成方法到自然语言处理等所有其他MLU课程的良好入门。

课程开发背景

问：是什么促使您将这门课程加入MLU的课程体系？

这门课程的推出既是业务需求，也是个人热情驱动。在工作中接触更多机器学习项目时，注意到项目团队中很多成员都是男性。这引发了思考："其他身份群体是否得到了与男性同等程度的考虑？我们是否有足够的多样性和代表性？当机器学习解决方案主要由特定人群开发时，会出现什么问题？"

在业务方面，看到越来越多的监管要求，如欧盟的《通用数据保护条例》（GDPR）和《人工智能法案》，或美国的《主要理由框架》。这无疑引发了更多对该主题的兴趣。

与遵守法规同等重要的是，某机构云服务的目标是负责任地使用和开发ML和AI系统。最终，测量和缓解偏见对于建立信任和评估AI系统及模型的风险是必要的。未能缓解偏见可能导致信任丧失并使客户亚群体处于不利地位。

课程内容特点

问：为什么选择这个主题？

机器学习正在如此迅速和广泛地发展——预计还将进一步增长，到2025年全球基于AI技术的支出预计将达到2040亿美元。它涉及客户生活的许多方面。

需要确保机器学习模型和API的开发和使用都是负责任的。这门课程补充了新的某中心领导原则："成功和规模带来广泛责任。"

问：您是如何整合这门课程的？

希望涵盖机器学习生命周期每个阶段的偏见方面。开始收集课程材料时注意到，没有任何免费提供的课程同时涵盖理论和代码的完整ML流程。

许多其他课程只关注一个子组件，比如在训练模型前测量偏见。希望为学员提供实践操作技能和每个生命周期的代码示例，从机器学习问题的构思一直到部署。

偏见案例与实践方法

问：能否举例说明偏见如何在机器学习中造成问题？

人们尝试解决的一个常见机器学习问题是分类问题，模型提供不同类别的结果，如"批准"或"拒绝"，或者是否向某人展示广告。

机器学习模型对某个亚群体（包含具有不同属性的个体）的表现可能远好于另一个亚群体。关键是拥有某种公平性度量，希望在不同亚群体中强制执行，以尽可能减少差异。

问：到目前为止，您从学员那里听到了什么反馈？

总体收到了非常积极的反馈，就讨论的活跃程度而言，这是参与度最高的课程之一。

对许多学员来说，一个"恍然大悟"的时刻是：可以制作一个公平的算法，但这并不意味着它具有高性能。例如，可能有一个拒绝所有申请者的模型。从技术上讲这是公平的——每个人都得到相同的结果——但显然也是不可取的。学员经常惊讶地发现需要有两个指标来评估机器学习模型：性能和公平性。不能只做其中一个。

课程目标

问：您希望学员从这门课中学到什么？

没有唯一正确的方法。有许多不同的偏见缓解技术，这对机器学习生命周期的每个组件都适用。关键是尝试理解偏见的来源，而不是盲目假设没有任何偏见。

还希望学员意识到，有一些科学方法可以在实践中使用来帮助缓解偏见。很多时候，人们观察甚至量化偏见问题，但不知道如何处理。这门科学非常新，但正在取得巨大进步，并且已经达到可以在实践中用于缓解偏见的程度。

机器学习大学（MLU）为任何人、在任何地方、任何时间提供用于培训某中心自家开发人员机器学习的相同课程。
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
公众号二维码