谷歌生成式人工智能笔记-全-

谷歌生成式人工智能笔记（全）

001：生成式AI简介

概述

在本节课中，我们将学习生成式人工智能的基本概念。我们将从定义生成式AI开始，探讨它与人工智能、机器学习、深度学习的关系，并了解其工作原理、模型类型以及实际应用。

什么是生成式AI？

生成式AI已成为一个流行词汇，但它究竟是什么？生成式AI是一种人工智能技术，能够生成各种类型的内容，包括文本、图像、音频和合成数据。

为了深入理解生成式AI，我们首先需要了解人工智能的背景。人工智能是计算机科学的一个分支，致力于创造能够推理、学习和自主行动的智能代理和系统。机器学习是人工智能的一个子领域，它通过输入数据训练模型，使模型能够从用于训练它的同一分布中提取的新数据中做出有用的预测，这意味着机器学习让计算机具备了无需显式编程即可学习的能力。

上一节我们介绍了人工智能和机器学习的基本概念，本节中我们来看看机器学习中两种最常见的模型类型。

以下是两种主要的机器学习模型类别：

监督学习模型：模型使用带有标签的数据进行训练。标签数据是带有名称、类型或数字等标记的数据。
无监督学习模型：模型使用未标记的数据进行训练。无监督学习旨在发现数据中自然形成的分组或模式。

理解这些概念是理解生成式AI的基础。在监督学习中，测试数据值X作为模型的输入，模型输出预测值，并与用于训练的实际值进行比较。如果预测值与实际值相差较大，则称为误差。模型会不断尝试减少这个误差，这是一个经典的优化问题。

深度学习与生成式AI

到目前为止，我们已经探讨了人工智能与机器学习、监督学习与无监督学习的区别。接下来，让我们简要了解深度学习作为机器学习方法的一个子集，以及生成式AI在其中的位置。

机器学习是一个涵盖多种技术的广泛领域，而深度学习是机器学习的一种类型，它使用人工神经网络，使其能够处理比传统机器学习更复杂的模式。人工神经网络受人脑启发，由许多相互连接的节点或神经元组成，可以通过处理数据和做出预测来学习执行任务。

深度学习模型通常具有许多神经元层，这使它们能够学习比传统机器学习模型更复杂的模式。神经网络可以同时使用标记和未标记的数据，这被称为半监督学习。在半监督学习中，神经网络使用少量标记数据和大量未标记数据进行训练。标记数据帮助神经网络学习任务的基本概念，而未标记数据则帮助神经网络泛化到新的示例。

现在，我们终于可以探讨生成式AI在这个AI学科中的位置了。生成式AI是深度学习的一个子集，这意味着它使用人工神经网络，并可以通过监督、无监督和半监督方法处理标记和未标记的数据。大语言模型也是深度学习的一个子集。

生成式模型与判别式模型

深度学习模型或广义的机器学习模型可以分为两种类型：生成式和判别式。

判别式模型：用于对数据点进行分类或预测标签。它学习数据点特征与标签之间的关系，训练完成后可用于预测新数据点的标签。判别式模型学习的是条件概率分布 P(Y|X)，即在给定输入X的情况下，输出Y的概率。
生成式模型：基于现有数据学习到的概率分布生成新的数据实例。生成式模型学习的是联合概率分布 P(X, Y)，然后可以预测条件概率并生成新的内容。

总结来说，生成式模型可以生成新的数据实例，而判别式模型则用于区分不同类型的数据实例。

再来看一个快速示例。下图展示了传统机器学习模型，它试图学习数据与标签（或你想要预测的内容）之间的关系。而下图则展示了生成式AI模型，它试图学习内容的模式，以便能够生成新的内容。

那么，如果有人挑战你玩一个“这是否是生成式AI”的游戏呢？下图展示了一种区分生成式AI与非生成式AI的好方法。

不是生成式AI：当输出（Y或标签）是一个数字、一个类别（例如，垃圾邮件/非垃圾邮件）或一个概率时。
是生成式AI：当输出是自然语言（如语音或文本）、音频或图像时。

让我们用一点数学来真正展示这种差异。从数学上可视化，y = f(x) 这个方程计算的是给定不同输入时，一个过程的因变量输出。Y代表模型输出，f代表计算或模型中使用的函数，x代表公式中使用的输入。如果Y是一个数字（如预测销售额），则不是生成式AI；如果Y是一个句子（如“定义销售额”），则是生成式AI，因为这个问题会引发一个基于模型已训练的海量大型数据的文本响应。

生成式AI的工作原理

传统的机器学习监督学习过程使用训练代码和标记数据来构建模型。根据用例或问题，模型可以给你一个预测、对某物进行分类或进行聚类。现在，让我们看看相比之下生成式AI的过程有多么强大。

生成式AI过程可以使用所有数据类型的训练代码、标记数据和未标记数据来构建一个基础模型。然后，基础模型可以生成新的内容，包括文本、代码、图像、音频、视频等。

我们从传统编程发展到神经网络，再到生成式模型，走过了很长的路。在传统编程中，我们必须硬编码区分猫的规则。在神经网络浪潮中，我们可以给网络提供猫和狗的图片，并问“这是猫吗？”，它会预测是或不是。真正酷的是，在生成式浪潮中，我们作为用户可以生成自己的内容，无论是文本、图像、音频、视频还是其他。例如，像PaLM或LaMDA这样的模型从互联网上的多个来源摄取非常庞大的数据，并构建基础语言模型，我们只需通过提问（无论是输入提示还是口头说出提示）就可以使用。所以当你问它“什么是猫”时，它可以告诉你它学到的关于猫的一切。

现在，让我们用一个正式的定义来使事情更规范。什么是生成式AI？

生成式AI是一种人工智能，它根据从现有内容中学到的东西创建新的内容。从现有内容中学习的过程称为训练，其结果是一个统计模型的创建。当给定一个提示时，生成式AI使用统计模型来预测预期的响应可能是什么，从而生成新的内容。它学习数据的底层结构，然后可以生成与训练数据相似的新样本。

正如我之前提到的，生成式语言模型可以从它被展示的示例中学习，并基于这些信息创造出全新的东西。这就是我们使用“生成式”这个词的原因。但是，大语言模型只是生成式AI的一种类型，它们以听起来自然的语言形式生成新颖的文本组合。

生成式图像模型：以图像作为输入，可以输出文本、另一张图像或视频。
生成式语言模型：以文本作为输入，可以输出更多文本、图像、音频或决策。

我提到生成式语言模型通过训练数据学习语言模式。看看这个例子。根据从训练数据中学到的东西，它提供了如何完成这个句子的预测：“我正在做一个花生酱和……果酱三明治”。很简单，对吧？所以给定一些文本，它可以预测接下来会发生什么。因此，生成式语言模型是模式匹配系统。它们根据你提供的数据学习模式。

生成式AI的力量来自于Transformer的使用。Transformer在2018年引发了自然语言处理的革命。在高层次上，Transformer模型由一个编码器和一个解码器组成。编码器对输入序列进行编码并将其传递给解码器，解码器学习如何解码表示以完成相关任务。

然而，Transformer有时也会遇到问题。幻觉是指模型生成的通常无意义或语法不正确的单词或短语。幻觉可能由多种因素引起，例如模型训练数据不足、训练数据嘈杂或不干净、上下文不足或约束不足。幻觉对于Transformer来说可能是一个问题，因为它们会使输出文本难以理解，也可能使模型更有可能生成不正确或误导性的信息。所以简单来说，幻觉是不好的。

提示设计与模型类型

让我们稍微转换一下话题，谈谈提示。提示是提供给大语言模型作为输入的一小段文本，它可以用于以多种方式控制模型的输出。提示设计是创建能够从LLM生成所需输出的提示的过程。

正如我之前提到的，生成式AI在很大程度上取决于你输入的训练数据。它分析输入数据的模式和结构从而学习。通过访问基于浏览器的提示，你作为用户可以生成自己的内容。

那么，让我们谈谈当文本是我们的输入时，可用的模型类型有哪些，以及它们如何有助于解决问题。

以下是几种主要的输入-输出模型类型：

文本到文本：模型接受自然语言输入并产生文本输出。这些模型被训练来学习文本对之间的映射，例如，从一种语言翻译成其他语言。
文本到图像：模型在大量图像上训练，每张图像都附有简短的文本描述。扩散是用于实现此目的的一种方法。
文本到视频和文本到3D：文本到视频模型旨在从文本输入生成视频表示。文本到3D模型生成与用户文本描述相对应的三维对象，用于游戏或其他3D世界。
文本到任务：模型被训练为基于文本输入执行定义的任务或操作。这个任务可以是广泛的动作，例如回答问题、执行搜索、进行预测或采取某种行动。

另一个比我提到的这些模型更宏观的概念是基础模型，它是一个在大量数据上预训练的大型AI模型，旨在适应或微调到广泛的下游任务，例如情感分析、图像描述和物体识别。基础模型有潜力彻底改变许多行业。如果你正在寻找基础模型，Vertex AI提供了一个包含基础模型的模型花园。

生成式AI的应用与工具

那么，生成式AI能帮助你的应用程序编写代码吗？当然可以。这里展示的是生成式AI应用程序，你可以看到有很多。让我们看一个代码生成的例子。在这个例子中，我输入了一个代码文件转换问题，从Python转换为JSON。我使用Gemini并插入提示框，它返回了我需要执行的步骤，并且我的输出是JSON格式。

总结来说，像Gemini这样的代码生成可以帮助你：

调试源代码行。
逐行向你解释代码。
为你的数据库编写SQL查询。
将代码从一种语言翻译到另一种语言。
为源代码生成文档和教程。

我将告诉你Google Cloud可以帮助你从生成式AI中获得更多价值的另外三种方式。

Vertex AI Studio：让你可以快速探索和定制生成式AI模型，以便在Google Cloud上的应用程序中利用。
Vertex AI Search and Conversation：对于那些没有太多编码经验的人特别有帮助。你可以用很少或无需编码且无需先前的机器学习经验，为客户和员工构建生成式AI搜索和对话功能。
PaLM API：让你测试和试验Google的大语言模型和生成式AI工具，使原型设计更快、更容易上手。

最后，还有Gemini，一个多模态AI模型。与传统的语言模型不同，它不局限于理解文本，还可以分析图像、理解音频的细微差别，甚至解释编程代码。这使得Gemini能够执行以前AI不可能完成的复杂任务。

总结

本节课中，我们一起学习了生成式人工智能的基础知识。我们从定义生成式AI开始，明确了它是人工智能和深度学习的一个子集。我们区分了生成式模型与判别式模型的核心差异，了解了生成式AI如何通过学习数据模式来创造新内容。我们还探讨了Transformer架构的重要性、提示设计的作用，以及文本到文本、文本到图像等多种模型类型。最后，我们简要介绍了生成式AI在代码生成等领域的应用，以及Google Cloud提供的相关工具，如Vertex AI和Gemini模型。现在，你已经掌握了生成式AI的基本概念，为进一步探索其强大潜力奠定了基础。

002：大语言模型简介 🧠

在本节课中，我们将要学习大语言模型（LLM）的核心概念、应用场景、提示调优方法以及谷歌的相关开发工具。

什么是大语言模型？🤔

上一节我们介绍了生成式AI的概览，本节中我们来看看其核心组成部分之一：大语言模型。

大语言模型（LLM）是深度学习的一个子领域。深度学习是人工智能的一个分支。你可能也经常听到另一个AI领域：生成式AI。这是一种能够生成新内容（包括文本、图像、音频和合成数据）的人工智能。

那么，什么是大语言模型？大语言模型指的是大型通用语言模型，它们可以进行预训练，然后针对特定目的进行微调。

“预训练”和“微调”是什么意思？让我们深入探讨。想象一下训练一只狗。你通常会训练它基本指令，如坐下、过来和等待。这些指令通常足以应对日常生活，帮助你的狗成为好公民。但如果你需要一只特殊的工作犬，例如警犬、导盲犬或猎犬，你就需要增加特殊训练，对吗？类似的概念也适用于大语言模型。

这些模型为通用目的而训练，以解决跨行业的常见语言问题，例如文本分类、问答、文档摘要和文本生成。然后，可以使用相对较小的领域特定数据集，对这些模型进行调整，以解决零售、金融和娱乐等不同领域的具体问题。

大语言模型的三大特征 🔑

现在你已经理解了基本概念，让我们进一步将其分解为大语言模型的三个主要特征。

我们从“大”这个词开始。“大”有两层含义。第一是指训练数据集的巨大规模，有时达到PB级别。第二是指机器学习中的参数数量。参数通常被称为超参数。参数本质上是机器从模型训练中学到的记忆和知识。参数定义了模型在解决问题（如预测文本）方面的技能。这就是我们使用“大”这个词的原因。

什么是“通用目的”？通用目的是指模型足以解决常见问题。导致这一理念的原因有两个。首先是人类语言的共性，无论具体任务是什么。其次是资源限制。只有某些组织有能力用海量数据集和巨量参数来训练这样的大语言模型。何不让它们创建基础语言模型供他人使用呢？

这就引出了我们最后的术语：“预训练”和“微调”。这意味着用大型数据集为通用目的预训练大语言模型，然后用小得多的数据集针对特定目标进行微调。

大语言模型的应用场景 💡

既然我们已经明确了大语言模型（LLM）的定义，接下来我们可以继续描述LLM的用例。

使用大语言模型的好处是直接的。以下是主要优势：

首先，单个模型可用于不同的任务。这是一个梦想成真。这些用PB级数据训练并生成数十亿参数的大语言模型足够智能，可以解决不同的任务，包括语言翻译、句子补全、文本分类、问答等。

其次，当你调整大语言模型来解决你的特定问题时，它们只需要最少的领域训练数据。大语言模型即使只有很少的领域训练数据，也能获得不错的性能。换句话说，它们可以用于少样本甚至零样本场景。在机器学习中，少样本指用最少的数据训练模型，零样本意味着模型可以识别在训练前未明确教授过的事物。

第三，当你添加更多数据和参数时，大语言模型的性能会持续增长。让我们以PaLM为例。2022年4月，谷歌发布了PaLM（Pathways语言模型），这是一个拥有5400亿参数的模型，在多项语言任务中实现了最先进的性能。PaLM是一个密集的、仅解码器的Transformer模型。它利用了新的Pathway系统，使谷歌能够高效地在多个TPU V4 Pod上训练单个模型。Pathway是一种新的AI架构，可以同时处理许多任务，快速学习新任务，并反映对世界更好的理解。该系统使PaLM能够为加速器编排分布式计算。

我之前提到PaLM是一个Transformer模型，让我解释一下这意味着什么。Transformer模型由编码器和解码器组成。编码器对输入序列进行编码，并将其传递给解码器，解码器学习如何为相关任务解码这些表示。它们从传统编程到神经网络，再到生成模型，已经走过了很长的路。

在传统编程中，我们过去必须硬编码区分猫的规则：动物腿=4，耳朵=2，毛皮=是，喜欢毛线和猫薄荷。在神经网络浪潮中，我们可以给网络猫和狗的图片并问：“这是猫吗？”，它们会预测是猫。真正酷的是，在生成浪潮中，我们作为用户可以生成自己的内容，无论是文本、图像、音频、视频还是其他。例如，像PaLM（Pathways语言模型）或LaMDA（对话应用语言模型）这样的模型，只是从互联网上的多个来源获取非常、非常大的数据，并构建基础语言模型，我们可以简单地通过提问来使用，无论是输入提示词还是口头说出提示词本身。所以当你问它“什么是猫？”时，它可以告诉你它学到的关于猫的一切。

LLM开发与传统ML开发对比 ⚖️

让我们比较一下使用预训练模型的LLM开发与传统ML开发。

首先，对于LLM开发，你不需要成为专家，不需要训练示例，也不需要训练模型，你只需要考虑提示设计。提示设计是创建一个清晰、简洁且信息丰富的提示的过程。它是自然语言处理（简称NLP）的重要组成部分。

在传统机器学习中，你需要专业知识、训练示例、计算时间和硬件。这比LLM开发的要求多得多。

让我们看一个文本生成的用例示例，以真正阐明这一点。问答（QA）是自然语言处理的一个子领域，处理自动回答以自然语言提出的问题的任务。QA系统通常在大量文本和代码上进行训练，能够回答广泛的问题，包括事实性、定义性和基于观点的问题。这里的关键是，你需要领域知识来开发这些问答模型。

让我们用一个真实世界的例子来澄清这一点。开发用于客户支持、医疗保健或供应链的问答模型需要领域知识，但使用生成式QA，模型直接基于上下文生成自由文本，不需要领域知识。让我再给你展示几个例子，看看这有多酷。

让我们看看向Gemini（谷歌AI开发的大语言模型聊天机器人）提出的三个问题。

问题1：今年的销售额是10万美元。支出是6万美元。净利润是多少？Gemini首先分享了净利润的计算方法，然后执行计算，接着提供了净利润的定义。

问题2：手头有6000个单位。一个新订单需要8000个单位。我需要补充多少单位才能完成订单？同样，Gemini通过执行计算来回答问题。

问题3：我们在10个地理区域有1000个传感器。每个区域平均有多少个传感器？Gemini通过一个如何解决问题的例子和一些额外的上下文来回答问题。

提示设计与提示工程 🎯

那么，在我们的每个问题中，是如何获得期望的响应的呢？这是由于提示设计。

提示设计和提示工程是自然语言处理中两个密切相关的概念。两者都涉及创建一个清晰、简洁且信息丰富的提示的过程，但两者之间存在一些关键区别。

提示设计是创建一个针对系统被要求执行的特定任务而定制的提示的过程。例如，如果系统被要求将文本从英语翻译成法语，提示应该用英语书写，并应指定翻译应为法语。

提示工程是创建一个旨在提高性能的提示的过程。这可能涉及使用领域特定知识、提供期望输出的示例或使用已知对该特定系统有效的关键词。

一般来说，提示设计是一个更通用的概念，而提示工程是一个更专业的概念。提示设计是必不可少的，而提示工程仅对需要高度准确性或性能的系统才是必要的。

大语言模型的类型与提示方法 📝

有三种大语言模型：通用模型、指令调优模型和对话调优模型。每种都需要不同的提示方式。

让我们从通用语言模型开始。通用语言模型根据训练数据中的语言预测下一个词。这是一个通用语言模型的例子：在这个例子中，“the cat sat on the”下一个词应该是“mat”，你可以看到“the”最可能是下一个词。可以将这种模型类型视为搜索中的自动补全。

接下来是指令调优模型。这种类型的模型被训练来预测对输入中给出的指令的响应。例如：“总结X的文本。”“生成一首X风格的诗。”“根据语义相似度给我一个X的关键词列表。”在这个例子中：“将文本分类为中性、负面或正面。”

最后是对话调优模型。这种模型通过下一个响应被训练来进行对话。对话调优模型是指令调优的一个特例，其中请求通常被框定为对聊天机器人的问题。对话调优期望在较长的来回对话的上下文中进行，并且通常在自然的问题式措辞下效果更好。

思维链推理是一个观察结果，即模型在首先输出解释答案原因的文本时，更有可能得到正确答案。让我们看看这个问题：“罗杰有五个网球。他又买了两罐网球。每罐有三个网球。他现在有多少个网球？”这个问题最初提出时没有响应，模型直接得到正确答案的可能性较小。然而，当第二个问题被提出时，输出更有可能以正确答案结束。

模型调优与高效方法 ⚙️

但是有一个问题。总是有一个问题。一个能做所有事情的模型有实际限制。但任务特定调优可以使LLM更可靠。Vertex AI提供了任务特定的基础模型。

让我们通过一些真实世界的例子来了解如何进行调优。假设你有一个用例，需要收集客户对你的产品或服务的感受，你可以使用情感分析任务模型。同样，如果你需要执行占用率分析，也有针对你用例的任务特定模型。

调优模型使你能够基于你希望模型执行的任务示例来定制模型响应。它本质上是通过在新数据上训练模型，使模型适应新领域或一组自定义用例的过程。例如，我们可以收集训练数据，并专门为法律或医疗领域调优模型。

你还可以通过微调进一步调优模型，即你带入自己的数据集，通过调整LLM中的每个权重来重新训练模型。这需要一个大型训练任务并托管你自己的微调模型。这是一个在医疗数据上训练的医疗基础模型的例子。任务包括问答、图像分析、寻找相似患者等。

然而，微调成本高昂，在许多情况下不现实。那么，有没有更高效的调优方法？是的。参数高效调优。

总结 📚

本节课中我们一起学习了大语言模型（LLM）的核心概念。我们定义了什么是大语言模型，描述了它们的应用场景，解释了提示设计与工程的区别，并介绍了通过预训练、微调和参数高效调优来定制模型的方法。理解这些基础是有效利用生成式AI强大能力的关键第一步。

003：负责任AI简介 🧭

在本节课中，我们将要学习什么是负责任的人工智能，以及为什么它在AI开发和应用中至关重要。我们将探讨负责任AI的核心原则、实践意义，并了解谷歌如何将责任融入其AI产品的设计与部署中。

人工智能的普及与责任

人工智能已融入我们的日常生活，从交通预测到影视推荐。随着AI技术日益普及，不具备AI功能的技术逐渐显得落后。AI系统正以前所未有的方式让计算机“看见”、“理解”并与世界互动，其发展速度惊人。

然而，我们必须认识到，尽管取得了显著进步，AI并非完美无缺。开发负责任的AI需要理解其潜在问题、局限性或意外后果。技术是社会现状的反映，若没有良好的实践，AI可能会复制并放大社会中现有的问题或偏见。

负责任AI的定义与挑战

负责任AI的实践面临挑战，因为目前并不存在一个普适的定义，也没有一个简单的清单或公式来规定应如何实施。相反，各组织正在制定反映自身使命和价值观的AI原则。

幸运的是，尽管这些原则因组织而异，但我们可以从中发现一些共同主题，主要集中在透明度、公平性、问责制和隐私这几个核心领域。

谷歌的负责任AI方法

上一节我们介绍了负责任AI的普遍挑战，本节中我们来看看谷歌的具体实践。谷歌对负责任AI的承诺植根于以下目标：构建为所有人服务、安全可靠、尊重隐私并由科学卓越性驱动的AI。

谷歌开发了自己的AI原则、实践、治理流程和工具，共同体现了其价值观，并构成了其负责任AI的方法论。谷歌已将“责任设计”的理念融入其产品乃至整个组织。与许多公司一样，谷歌使用其AI原则作为指导负责任决策的框架。

人在AI开发中的核心角色

在AI流程中，无论你参与的是设计、部署还是应用阶段，你所做的每一个决定都会产生影响。因此，拥有一个定义明确且可重复的负责任AI使用流程至关重要。

关于人工智能存在一个常见的误解，即认为机器扮演着核心的决策角色。实际上，是人设计和构建了这些机器，并决定了它们的使用方式。

以下是人在AI开发各环节中的参与方式：

数据准备：人们收集或创建用于训练模型的数据。
模型部署：人们控制AI的部署方式及其在特定场景下的应用。

本质上，人类的决策贯穿于我们的技术产品之中。每一次决策都是基于决策者自身的价值观做出的选择。这意味着，从概念构思到部署维护的每一个决策点，都需要经过深思熟虑和评估，以确保选择是负责任的。

伦理考量的重要性

由于AI技术有潜力影响社会的诸多领域乃至人们的日常生活，因此在开发时心怀伦理至关重要。

负责任AI并不仅仅意味着关注那些明显存在争议的用例。即使看似无害或出于善意的AI用例，如果没有负责任的实践，仍可能引发伦理问题、导致意外后果，或无法发挥其应有的益处。

伦理和责任之所以重要，不仅因为这是正确的事，还因为它们可以引导AI设计，使其更能造福人类生活。

负责任AI与商业成功的关系

这对谷歌意味着什么？谷歌的经验表明，将责任融入任何AI部署中，能够打造更好的模型，并与客户乃至客户的客户建立信任。如果信任链条在任何环节断裂，AI部署就可能面临停滞、失败的风险，最坏的情况下，甚至会对利益相关者造成伤害。

总而言之，这符合谷歌的信念：负责任AI = 成功的AI。

谷歌通过一系列评估和审查来做出关于AI的产品和商业决策。这些流程确保了其方法在不同产品领域和地理区域中的严谨性和一致性。评估和审查始于确保任何项目都符合其AI原则。

谷歌的AI原则与实践

我们谈论了很多原则在理论上的重要性，但它们在实践中是怎样的呢？让我们深入了解。2018年6月，谷歌宣布了七项AI原则来指导其工作。这些是积极管理其研究和产品开发、并影响其商业决策的具体标准。

以下是每项原则的概述：

AI应有益社会：任何项目都应考虑广泛的社会和经济因素，并且仅在确信总体可能收益远超可预见的风险和弊端时才会推进。
AI应避免制造或加剧不公平偏见：我们力求避免对人们造成不公正的影响，特别是与种族、民族、性别、国籍、收入、性取向、能力以及政治或宗教信仰等敏感特征相关的影响。
AI应构建并测试安全性：我们将持续开发和应用强大的安全实践，以避免产生可能造成伤害风险的意外结果。
AI应对人负责：我们将设计能提供适当反馈、相关解释和申诉机会的AI系统。
AI应融入隐私设计原则：我们将提供告知和同意的机会，鼓励采用具有隐私保护措施的架构，并对数据使用提供适当的透明度和控制权。
AI应坚持高标准的科学卓越性：我们将与各方利益相关者合作，在此领域促进深思熟虑的领导力，借鉴科学严谨的多学科方法。我们将负责任地分享AI知识，通过发布教育材料、最佳实践和研究，使更多人能够开发有用的AI应用。
AI的用途应符合这些原则：许多技术具有多种用途，我们将努力限制可能有害或被滥用的应用。

除了这七项原则，谷歌还明确了不会追求的四大AI应用领域：

可能造成整体伤害的技术。
主要目的或实施方式是造成或直接助长人身伤害的武器或其他技术。
收集或使用信息进行违反国际公认准则的监控的技术。
目的违背国际法和人权广泛接受原则的技术。

总结

本节课中，我们一起学习了负责任AI的核心概念。我们了解到，负责任AI没有统一公式，需要各组织基于共同理念（如公平、透明）制定自己的原则。人在AI开发中扮演核心决策角色，因此将伦理考量融入全过程至关重要。谷歌的实践表明，将责任“设计”到产品中，不仅能建立信任，更是商业成功的关键。确立原则只是一个起点，它们为艰难的对话和负责任的决策提供了基础框架。

核心概念公式：
负责任的AI = 透明度 + 公平性 + 问责制 + 隐私保护 + 伦理考量

004：课程介绍 🎬

在本课程中，我们将学习谷歌云关于负责任AI实践的核心理念、原则与实施方法。课程将探讨AI技术快速发展带来的机遇与挑战，并重点介绍如何将责任意识融入AI的开发与应用全流程。

大家好，欢迎来到“谷歌云负责任AI原则”课程。本课程专注于负责任AI的实践。我是Marcuscus，我是Caitlin。我们将担任本课程的讲解员。

我们许多人已经与人工智能（AI）有日常互动，从交通和天气预测到推荐您接下来可能喜欢观看的电视节目。

随着AI，特别是生成式AI，变得越来越普遍，许多未启用AI的技术可能开始显得不足。如此强大且影响深远的技术，也引发了关于其开发与使用的同等重要的疑问。

历史上，AI对普通人来说并不容易接触。绝大多数受过培训、有能力开发AI的人都是专业工程师，他们数量稀少且雇佣成本高昂。但进入门槛正在降低，允许更多人构建AI，甚至包括那些没有AI专业知识的人。

现在，AI系统使计算机能够以十年前难以想象的方式观察、理解和与世界互动。这些系统正以惊人的速度发展。

根据斯坦福大学2019年AI指数报告，在2012年之前，AI成果与摩尔定律紧密相关，计算能力每两年翻一番。报告指出，自2012年以来，计算能力大约每三个半月翻一番。

为了更直观地理解，在这段时间里，视觉AI技术只变得更加准确和强大。例如，ImageNet图像分类数据集的错误率显著下降。2011年，错误率为26%。到2020年，这个数字是2%。作为参考，人类执行相同任务的错误率是5%。

然而，尽管取得了这些显著进步，AI并非万无一失。开发负责任的AI需要理解可能出现的问题、限制或意外后果。

技术是社会现状的反映，因此，如果没有良好的实践，AI可能会复制社会中现有的问题或偏见，并将其放大。

但目前并不存在一个关于负责任AI的普适定义，也没有一个简单的清单或公式来定义应如何实施负责任的AI实践。相反，各组织正在制定反映其使命和价值观的自身AI原则。

虽然这些原则对每个组织来说都是独特的，但如果你寻找共同主题，会发现一组贯穿透明度、公平性、问责制和隐私的一致性理念。

在谷歌，我们负责任AI的方法植根于一项承诺：致力于构建为每个人服务的AI，这种AI是负责任且安全的，尊重隐私，并由卓越的科学驱动。我们制定了自身的AI原则、实践、治理流程和工具，它们共同体现了我们的价值观，并指导我们负责任AI的方法。

我们已经将“责任设计”的理念融入到我们的产品中，更重要的是，融入到我们的组织中。像许多公司一样，我们使用AI原则作为框架来指导负责任的决策。我们将在本课程后面详细探讨我们是如何做到这一点的。

这里需要强调的是，我们并不假装拥有所有答案。我们知道这项工作永无止境，我们希望分享我们正在学习的东西，以进行协作并帮助其他人在他们自己的旅程中前行。

在负责任AI的应用方面，我们每个人都扮演着角色。无论您参与AI流程的哪个阶段，从设计到部署或应用，您所做的决定都会产生影响。您同样需要有一个定义明确且可重复的流程来负责任地使用AI，这一点很重要。

谷歌不仅致力于构建具有社会价值的先进技术，还致力于通过与更广泛的社区分享我们的见解和经验教训来推广负责任的实践。

本课程代表了这些努力的一部分。本课程的目标是提供一个了解谷歌，更具体地说是谷歌云，在负责任地开发和使用AI方面旅程的窗口。

我们希望您能够获取我们分享的信息和资源，并用它们来帮助塑造您组织自身的负责任AI战略。

但在我们进一步深入之前，让我们先澄清一下当我们谈论AI时的含义。通常，人们想知道人工智能、机器学习和深度学习之间的区别。然而，对于AI并没有一个普遍认同的定义。

关键的是，关于AI应如何定义缺乏共识，这并未阻止技术进步。这凸显了就需要如何负责任地创建和使用这些系统进行持续对话的必要性。

在谷歌，我们说我们的AI原则适用于先进技术开发，作为一个总括性术语来涵盖所有类型的技术。陷入语义争论可能会分散负责任开发技术这一核心目标的注意力。

因此，我们不会深入探讨这些技术的定义，而是将重点放在技术开发中人类决策的重要性上。

关于人工智能，存在一个常见的误解，即机器扮演着核心的决策角色。实际上，是人们在设计和构建这些机器，并决定如何使用它们。人们参与AI开发的每个方面。他们收集或创建模型训练所用的数据。他们控制AI的部署以及它在特定情境下的应用方式。

本质上，人类的决策贯穿于我们的技术产品之中。每当一个人做出决定时，他们实际上是在根据自己的价值观做出选择。无论是决定使用生成式AI而不是其他方法来解决问题，还是在机器学习生命周期的任何环节，他们都引入了自己的一套价值观。这意味着每个决策点都需要考虑和评估，以确保从概念到部署和维护的整个过程中，选择都是负责任地做出的。

005：负责任AI的重要性与谷歌实践

在本节课中，我们将要学习负责任AI的概念、其必要性，以及谷歌如何将责任与伦理融入AI的开发与部署流程中。我们将探讨AI创新可能带来的意外影响，并理解建立负责任的文化与实践对于构建成功且可信赖的AI系统至关重要。

技术创新与伴随的责任

我们许多人依赖技术创新来帮助过上幸福健康的生活。

无论是规划最佳回家路线，还是在身体不适时寻找正确的信息。

技术创新的机遇是巨大的。但这也伴随着技术提供商必须正确行事的重大责任。

AI创新带来的潜在挑战

人们日益关注AI创新可能带来的一些非预期或不良影响。

这些担忧包括机器学习公平性问题、历史偏见的大规模延续、AI驱动的失业对未来工作的影响，以及AI所做决策的问责与责任归属问题。

我们将在课程后续部分更详细地探讨这些内容。

由于AI有潜力影响社会的许多领域，更不用说人们的日常生活，因此在开发这些技术时，将伦理考虑在内非常重要。

什么是负责任AI？🤔

负责任AI并不仅仅关注那些明显存在争议的用例。如果没有负责任的AI实践，即使是看似无害的AI用例或出于良好意图的用例，仍可能引发伦理问题、导致非预期结果，或者无法实现其应有的益处。

伦理和责任之所以重要，不仅因为它们代表了正确的行事方式，还因为它们可以指导AI设计，使其更能造福人们的生活。

在谷歌，我们认识到，将责任融入任何AI部署中，能构建出更好的模型，并与我们的客户以及客户的客户建立信任。

如果在任何环节这种信任被打破，我们将面临AI部署停滞、失败，或最坏情况下对相关利益方造成伤害的风险。

这都符合我们在谷歌的信念：负责任AI = 成功AI。

谷歌的负责任AI实践流程 🛠️

我们通过一系列评估和审查来做出关于AI的产品和业务决策。

这些流程确保了我们在不同产品领域和地区的方法上的一致性与严谨性。

这些评估和审查始于确保任何项目都符合我们的AI原则。

在本课程中，你将看到我们如何在谷歌，特别是在谷歌云内部，构建负责任AI的流程。

有时你可能会想，你们资源雄厚、人才济济，做起来当然容易。我们只有几个人，资源也有限。

你可能也会因为需要应对棘手的新哲学和实际问题而感到不知所措或畏惧。

正是在这里，我们向你保证，无论你的组织规模大小，本课程都将为你提供指导。负责任AI是一种迭代实践。它需要奉献精神、纪律性，以及随时间学习和调整的意愿。

开启你的负责任AI之旅 🚀

事实是这并不容易，但做对至关重要。因此，开启这段旅程，即使从小步骤开始，也是关键。

无论你已经走在负责任AI的道路上，还是刚刚起步，定期花时间反思公司的价值观以及你希望通过产品产生的影响，都将对负责任地构建AI大有裨益。

最后，在我们深入探讨之前，我们想在谷歌澄清一点：我们知道，在AI用户和开发者社区中，我们只代表一种声音。😊

我们在开发和部署这项强大技术时认识到，我们并不、也不可能知道和理解所有我们需要知道的事情。

只有当我们共同应对这些挑战时，我们才能做到最好。

社区与文化的力量 👥

确保AI被负责任地开发和使用的真正要素是社区。

我们希望这门课程能成为我们在这个重要议题上共同合作的起点。

虽然AI原则有助于一个团体基于共同的承诺站稳脚跟，但并非每个人都会同意每一个决策以及产品应如何负责任地设计。

这就是为什么建立人们可以信任的稳健流程非常重要，这样即使他们不同意最终决定，也会信任驱动该决策的过程。

简而言之，根据我们的经验，必须存在一种基于集体价值体系、并接受健康审议的文化，才能指导负责任AI的发展。

通过完成本课程，随着AI持续经历惊人的普及和创新，你本人也正在通过推进负责任AI开发的实践，为这种文化做出贡献。

总结

本节课中，我们一起学习了负责任AI的核心概念及其重要性。我们探讨了AI创新可能伴随的公平性、偏见、就业等社会挑战，并理解了将伦理考量融入技术开发的必要性。我们介绍了谷歌“负责任AI等于成功AI”的理念及其通过评估审查流程确保AI原则落地的实践。最后，我们认识到负责任AI是一个需要社区协作、文化建设和持续迭代的旅程，鼓励所有组织无论规模大小，都可以从小处着手，共同推动AI向更负责任、更可信赖的方向发展。

生成式AI学习路径：P6：Google的AI原则介绍 🧭

在本节课中，我们将要学习谷歌公司提出的七项人工智能原则。这些原则是谷歌在AI研究、产品开发和商业决策中遵循的具体标准，旨在确保AI技术对社会有益且负责任地发展。

作为AI领域的领导者，AI的开发和使用方式将在未来多年对社会产生重大影响。谷歌和谷歌云认识到，我们有责任妥善处理此事并确保其正确性。

2018年6月，我们宣布了七项指导我们工作的原则。这些是积极管理我们研究和产品开发、并影响我们商业决策的具体标准。

我们将在课程后面更深入地介绍这些原则及其发展过程。现在，我们先对每一项原则进行概述。

以下是谷歌AI的七项核心原则：

一、AI应有益于社会。
任何项目都应考虑广泛的社会和经济因素，并且只在我们认为总体可能的收益大大超过可预见的风险和不利因素时才会进行。

二、AI应避免制造或加剧不公平偏见。
我们力求避免对人们造成不公正的影响，特别是与敏感特征相关的影响，例如种族、民族、性别、国籍、收入、性取向、能力以及政治或宗教信仰。

三、AI应基于安全目的构建和测试。
我们将继续发展和应用强有力的安全实践，以避免产生可能造成伤害风险的意外结果。

四、AI应对人类负责。
我们将设计能提供适当反馈机会、相关解释和申诉渠道的AI系统。

五、AI应融入隐私设计原则。
我们将提供通知和同意的机会，鼓励采用具有隐私保护措施的架构，并对数据的使用提供适当的透明度和控制权。

六、AI应坚持高标准的科学卓越性。
我们将与一系列利益相关者合作，在此领域促进深思熟虑的领导力，借鉴科学严谨和多学科的方法，并通过发布教育材料、最佳实践和研究来负责任地分享AI知识，使更多人能够开发有用的AI应用。

七、AI的应用应符合这些原则。
许多技术都有多种用途，因此我们将努力限制可能有害或被滥用的应用。

除了这七项原则，还有一些特定的AI应用是我们不会追求的。我们不会在以下四个应用领域设计或部署AI：

会造成或可能造成整体伤害的技术。

主要目的或实施方式是造成或直接促进人员伤害的武器或其他技术。
收集或使用信息进行违反国际公认规范的监控的技术。

目的违背国际法和人权广泛接受原则的技术。

制定原则是一个起点，而非终点。

现实情况是，我们的AI原则很少直接给出关于如何构建产品的答案。

它们不能也不应让我们回避艰难的对话。它们是一个基础，确立了我们的立场、我们构建什么以及我们为何构建。它们也是我们企业AI产品成功的核心。

在课程后面，我们将提供一些建议，帮助你在组织内部制定一套自己的AI原则。

本节课中，我们一起学习了谷歌提出的七项AI原则及其四项禁止的应用领域。这些原则强调了AI技术发展应遵循有益社会、公平、安全、负责、保护隐私、科学卓越和符合道德的核心价值观，为负责任地开发和部署AI提供了基本框架。记住，原则是行动的指南，而非简单的答案，它们需要在实际应用中不断被审视和践行。

007：3_经济学人智库报告 📊

在本节课中，我们将要学习一份由经济学人智库（EIU）为谷歌撰写的报告，该报告深入探讨了负责任的人工智能（Responsible AI）如何为企业带来战略优势和商业价值。我们将了解报告的核心发现及其对组织的重要性。

普华永道的一项主要预测表明，到2030年，人工智能可能推动全球GDP增长14%，即高达15.7万亿美元。在谷歌，我们相信，负责任、包容且公平地部署AI是实现这一预测的关键因素。简而言之，我们认为，负责任的人工智能等同于能够长期获得信任并成功部署的人工智能。

我们还相信，负责任的人工智能项目和实践能为企业领导者带来战略和竞争优势。

为了深入探讨负责任人工智能的商业利益，我们赞助了一份原创报告，题为《保持领先：负责任人工智能的商业案例》。该报告由经济学人集团旗下的研究和分析部门——经济学人智库（EIU）编制。

上一节我们提到了报告的背景，本节中我们来看看报告的核心价值。这份报告展示了在一个日益由AI驱动的世界中，负责任AI实践的价值。它全面阐述了负责任AI对一个组织的核心商业考量可能产生的影响。

需要强调的是，为撰写本报告所收集的数据来源于广泛的数据驱动研究、行业专家访谈以及一项高管调查项目。该报告反映了AI开发者、部署AI的行业领导者以及AI最终用户的普遍看法。

我们将分享主要发现，并鼓励您阅读本课程资源部分提供的完整报告。我们希望您能利用这些要点，将您的商业目标与负责任AI计划联系起来，从而帮助您影响组织内的相关利益方。

接下来，我们具体了解报告的结构。该报告细分为七个部分，包含了关于负责任AI如何带来以下益处数据：

提升产品质量。
改善人才招聘、留任和参与度的前景。
有助于更好的数据管理、安全性和隐私保护。
为当前和未来的AI法规做好准备。
促进收入和利润的增长。
有助于加强与利益相关者和投资者的关系。
维持强大的信任和品牌声誉。

在下一个视频中，我们将详细探讨这七个部分。

本节课中我们一起学习了经济学人智库报告的核心内容。我们了解到，负责任的人工智能不仅是道德要求，更是实现长期商业成功（如推动高达15.7万亿美元的GDP增长）和获得竞争优势的关键战略。报告从七个方面系统阐述了负责任AI的商业价值，为组织将AI原则与业务目标结合提供了有力依据。

008：负责任创新的商业案例 📈

在本节课中，我们将一起探讨《经济学人智库报告》中关于负责任人工智能的七个商业亮点。我们将了解为何将负责任AI实践融入企业战略不仅是一项道德要求，更是一项明智的商业投资。

概述

本节内容基于《经济学人智库报告》，旨在阐述采纳负责任AI实践能为企业带来的具体商业价值。我们将逐一分析七个核心亮点，理解它们如何从产品开发、人才吸引、数据安全、法规遵从、收入增长、伙伴关系及品牌信任等方面推动商业成功。

亮点一：负责任AI是产品开发的明智投资 💡

上一节我们介绍了课程概述，本节中我们来看看第一个商业亮点：将负责任AI实践融入产品开发是一项明智的投资。

根据报告，97%的受访者同意，伦理审查对于产品创新至关重要。伦理审查旨在评估新技术带来的潜在机遇与危害，以使产品设计更好地符合负责任AI原则。

以下是伦理审查通常关注的核心方面：

数据集审查：仔细检查训练数据是否存在偏见或不平衡。
模型性能评估：评估模型在不同子群体（如不同性别、种族）中的表现是否公平。
影响分析：考量技术预期与非预期结果可能带来的社会影响。

如果企业未能积极采纳负责任AI实践，将面临多种风险，包括产品发布延迟、工作中断，甚至在极端情况下需要将已上市的产品撤出市场。

通过在开发早期融入负责任AI实践，并为识别和减轻危害留出空间，企业可以通过减少下游的伦理违规来降低开发成本。

多项研究证实了信任与采纳的挑战：

CCS Insight 2019年的调查显示，信任AI系统仍是企业采用AI的最大障碍。
Cap Gemini的一项研究发现，90%的组织报告遇到过伦理问题，其中40%的公司选择直接放弃AI项目，而非解决问题。

在许多案例中，AI技术因其实在风险而未能从实验室走向实际生产。因此，那些已规模化应用AI的公司，其1.7倍更可能以负责任AI原则为指导，这便不足为奇了。

如果实施得当，负责任AI能通过以下方式让产品变得更好：

发现并努力减少不公平偏见可能造成的危害。
提高透明度。
增强安全性。

这些是培养产品利益相关者信任的关键组成部分，既能提升产品对用户的价值，也能增强企业的竞争优势。

亮点二：负责任AI的先行者能吸引并留住顶尖人才 🧑‍💼

在了解了产品开发方面的价值后，我们转向人力资源视角。报告的第二大亮点指出，负责任AI的先行者能够吸引并留住顶尖人才。

如今，顶尖人才寻求的远不止一份有活力的工作和优厚的薪水。随着对科技人才的需求竞争日益激烈且成本高昂，研究表明，找到合适的员工是值得的。

一项研究发现，顶尖员工的生产力比技能一般的普通员工高出400%。
在软件开发等高度复杂的职业中，顶尖员工的生产力甚至高出800%。

研究还表明，留住已有的人才至关重要。更换一名初级技术员工的成本约为3万美元，而一名技术专家或领导者离职的成本可能高达31.2万美元。

那么，如何留住优秀人才？德勤的全球千禧一代调查显示，员工对那些致力于解决他们关心的问题（尤其是伦理问题）的雇主忠诚度更高。

那些建立共同承诺并践行负责任AI实践的组织，最能与员工建立信任和互动，从而有助于激励和留住顶尖人才。

亮点三：守护数据的承诺至关重要 🔐

人才是企业内部的核心资产，而数据则是外部信任的基石。报告的第三个亮点强调了守护数据承诺的重要性。

根据《经济学人智库》的高管调查，网络安全和数据隐私问题是采用AI的最大障碍。组织需要非常谨慎地思考如何收集、使用和保护数据。

如今，超过90%的消费者如果对一家公司如何使用其数据感到担忧，就不会从该公司购买产品或服务。

数据泄露对企业而言代价高昂。IBM和波耐蒙研究所的报告指出，全球范围内：

平均每次数据泄露涉及 25,575条记录。
平均成本为 392万美元。
美国的平均成本最高，达 819万美元。

研究还发现，业务损失是数据泄露中财务危害最大的方面，占总平均成本的36%。

消费者也更可能因数据泄露而责怪公司本身，而非黑客，这突显了保护数据对客户参与度的影响。企业客户也需要确信，公司本身是其数据值得信赖的托管方。

在谷歌，我们认为隐私在赢得和维持客户信任方面起着关键作用。通过公开的隐私政策，我们希望明确说明我们如何主动保护客户的数据。

当一个组织能够被信任处理数据时，它可以获得更大、更多样化的数据集，这反过来会改善AI的产出效果。思科研究报告称，企业在加强数据隐私上每投资1美元，平均将获得2.70美元的回报。

所有这些发现都清楚地表明，使用负责任AI实践来解决数据问题，将带来AI技术更广泛的采用和更大的商业价值。

亮点四：在AI法规出台前做好准备 ⚖️

处理好数据隐私是应对当前挑战，而预见法规变化则是面向未来。报告的第四个亮点强调了在AI法规出台前做好准备的重要性。

随着AI技术的进步，来自社会、商业界乃至科技行业内部对其监管的呼声也日益高涨。各国政府已意识到AI监管的重要性，并开始着手制定相关法规。

例如，为确保欧洲AI发展以人为本且合乎伦理，欧洲议会成员已批准了对AI系统的新透明度与风险管理规则。一旦通过，这将成为世界上首部人工智能规则。

这是一个良好的开端，然而，要在全球范围内建立稳健成熟的AI法规仍需大量时间和努力。

《经济学人智库》的高管调查数据显示，来自五大受调查行业的92% 美国企业高管认为，在缺乏官方AI监管的情况下，科技公司必须主动确保负责任的AI实践。

那些正在发展负责任AI的组织，有望在新法规生效时获得显著优势。这可能意味着当法规生效时，不合规的风险降低，甚至能够富有成效地参与关于法规的讨论，以确保其范围适当。

挑战在于制定法规的方式需要相称地定制，以减轻风险并促进可靠、可信赖的AI应用，同时仍能实现AI为社会造福的承诺创新。

以欧盟的《通用数据保护条例》为例，当它首次被采纳时，只有31% 的企业认为自己在法律颁布前已经符合GDPR要求。

研究发现，不遵守GDPR的成本是遵守成本的2.71倍。尽管监管罚款是不合规的众所周知的风险，但它们仅占总不合规成本的13%，而业务运营中断占34%，其次是生产力损失和收入损失。

对这一经验的反思促使许多组织开始提前规划，以应对即将到来的AI法规。

亮点五：负责任AI可以促进收入增长 📊

在应对法规挑战的同时，负责任AI本身也能直接创造商业机会。报告的第五个亮点指出，负责任AI可以改善收入增长。

对于AI供应商而言，负责任AI可以带来更大的目标市场、竞争优势以及与现有客户更深入的互动。

在《经济学人智库》调查的高管中：

91% 表示伦理考量已被纳入其公司招标流程的一部分。
91% 表示，如果供应商能提供关于负责任使用AI的指导，他们将更愿意与之合作。
66% 表示，他们的组织曾因伦理问题而决定不与某AI供应商合作。

越来越多的证据表明，组织的伦理行为与其核心财务绩效之间存在正相关关系。

例如，投资于环境、社会和公司治理措施的公司，在股市上表现更好。近期数据显示，全球最具伦理道德的公司，其五年期表现超过大盘指数14.4%。

客户行为也受到伦理的影响。尼尔森一项覆盖60个国家3万名消费者的调查发现，66% 的受访者愿意为可持续、对社会负责且符合伦理设计的产品和服务支付更高价格。

亮点六：负责任AI正在赋能合作伙伴关系 🤝

收入增长离不开健康的商业生态，而负责任AI正成为连接优质伙伴的桥梁。报告的第六个亮点是，负责任AI正在赋能合作伙伴关系。

投资者越来越倾向于将他们的投资组合与个人价值观保持一致，这反映在对可持续、长期投资的兴趣上。利益相关者关系可以影响组织的企业战略和财务绩效。

可持续投资最广泛的定义包括任何筛选掉不良投资对象，或明确考虑ESG因素和风险的投资。尽管ESG评估标准传统上不包括负责任AI，但这种投资于社会责任公司的趋势表明，资金将重新分配给那些优先考虑负责任AI的公司。

例如，英国投资公司Hermes Investment Management在其报告中明确指出，它根据一套负责任AI原则来评估被投资公司。

更近期的研究也显示了同样的趋势。Forrester Research显示，投资者对培育负责任AI初创公司的兴趣日益浓厚。

2013年，负责任AI初创公司的融资额为800万美元。
到2020年，这一数字增长到3.35亿美元。
从2018年到2019年，融资额甚至增长了93%。

亮点七：维护强大的信任与品牌形象 🛡️

最后，所有的商业价值最终都汇聚于企业的无形资产。报告的最后一个亮点关乎维护强大的信任与品牌形象。

正如缺乏负责任AI实践会削弱客户信任和忠诚度一样，证据证实，那些在负责任AI方面领先的组织有望在公众舆论、信任和品牌方面获得回报。

对于科技公司而言，信任与品牌形象之间的联系从未如此紧密。专家表示，如果没有对AI的强有力监督，开发或实施AI的公司将使自己面临风险，包括不利的公众舆论、品牌侵蚀和负面新闻循环。

品牌侵蚀的影响不会止步于犯错公司的门口。组织可以通过实施负责任AI实践来减轻这类信任和品牌风险，这些实践有潜力提升与其相关的组织和品牌。

正如《经济学人智库》报告所强调的，负责任AI为企业带来了不可否认的价值，同时也带来了拥抱它的明确道德要求。尽管不可能识别出不负责任的AI实践可能带来的所有负面结果，但企业今天有一个独特的机会做出决策，以防止这些结果在未来发生。

总结

本节课中，我们一起学习了《经济学人智库报告》中关于负责任AI的七大商业亮点。我们了解到，负责任AI不仅是伦理要求，更是驱动产品创新、吸引顶尖人才、保障数据安全、应对未来法规、促进收入增长、建立优质伙伴关系以及维护品牌信任的核心商业策略。希望本课提供的数据和观点，能帮助你在与商业利益相关者和客户沟通时，有力地阐述投资负责任AI的商业理由，并推动相关实践的发展。

009：AI的技术考虑与伦理问题

在本节课中，我们将要学习人工智能领域的伦理困境与道德考量。我们将探讨伦理困境的定义、其与道德诱惑的区别，并理解为何在开发AI时，负责任的实践至关重要。

想象一个场景：你有一位从小一起长大的挚友，如今你们也是同事。

有一天，与你关系同样密切的经理向你透露，你的这位童年好友即将被解雇，并要求你暂时保密。

当天晚些时候，你的朋友打电话给你，兴奋地分享他计划购买新房的消息。

这真是一个两难的处境。你该怎么办？

伦理困境是一种必须在不同行动方案之间做出艰难选择的情境，而每种方案都可能违背某种道德原则。

不作为本身也是一种做出“什么都不做”的决定。

伦理困境充满不确定性和复杂性，需要仔细审视个人价值观才能解决。

需要明确的是，伦理困境不同于道德诱惑。

道德诱惑是在正确与错误之间做选择，特别是当做错事对自身有利时。

想象一下，你看完一场电影离开影院时，发现另一部你想看的电影即将开始，周围没有检票员。你会进去看吗？

这不会被视作伦理困境，而是一种道德诱惑。

回到最初的场景，你面临一个艰难的选择。

以下是几种可能的行动方案：

不顾经理的保密要求，将信息告知朋友。
假装不知情，遵守对经理的承诺。
寻找其他不越界的方式来提醒朋友。

根据询问对象的不同，这些不同的观点都可能被认为是合乎伦理的，并且有其正当性。

尽管没有标准正确答案，但一个艰难的选择必须被做出。

上一节我们探讨了个人层面的伦理困境，本节中我们来看看人工智能领域面临的伦理挑战。

在构建人工智能时，由于AI可能对社会产生的巨大影响，开发者会面临许多需要应对的伦理困境。这就是为什么伦理考量必须始终处于AI社区关注的最前沿。

请看以下新闻标题：

建立数字信任对AI工具的采用至关重要。
前景广阔，但潜藏危机。
随着AI在更多行业承担更大决策角色，伦理担忧加剧。
负责任的人工智能在2021年变得至关重要。

这些标题凸显了负责任AI对公司和社会的重要性。

根据凯捷咨询2020年的一份报告，来自内部和外部的广泛利益相关者越来越要求公司建立更健全的伦理价值观、流程、专业知识、企业文化和领导力。

但当我们谈论“伦理”时，具体指的是什么？

广义而言，伦理是一个持续的过程，包括阐明价值观，并依据这些价值观（通常涉及权利、义务、社会利益或特定美德）来质疑和证明决策的合理性。

最终，伦理是让社会中的每个人都能共同繁荣发展的基石。

这并非否认其中存在需要被承认和面对的主观性与文化相对性元素。审视世界各地的伦理框架和理论时，各种方法常常相互矛盾。但无论你认同哪种方法，伦理都是与他人和谐共处的艺术。因此，伦理审议必须汲取多样化的视角和经验。

然而，伦理并不完全适用于规则或清单，尤其是在试图解决前所未有的道德挑战时——例如那些由突破性技术所创造的挑战。

解决前所未遇的新道德挑战需要一定的创造性。它要求谦逊、直面难题的意愿，以及在面对新证据和有效反对时改变观点的开放性。

同样重要的是要理解，伦理不应被视为法律和政策。伦理反映了我们对彼此的价值观和期望，其中大部分并未被书面记录或由正式系统强制执行。

虽然法律和政策常常从伦理中汲取见解，但许多不道德的行为是合法的，而一些合乎道德的行为却是非法的。例如，大多数类型的撒谎、违背承诺或欺骗通常被认为是不道德的，但往往是合法的。而一些最英勇的公民不服从行为在当时却是非法的。

归根结底，定义伦理对你的组织意味着什么，应该促使你思考希望通过所做的工作，与用户、团队及更广泛的社会建立何种信任纽带。没有这种信任，牢固的客户关系将不复存在。

随着21世纪技术的社会、政治和环境影响迅速扩大，先进技术带来的挑战也在成倍增加。使用AI的技术有可能以惊人的速度和规模无意中复制伤害，这使得采取深思熟虑、谨慎的方法变得更加重要。

各组织正迅速认识到对负责任AI的需求。

凯捷咨询2020年的“AI与伦理困境”调查显示，意识到AI相关问题的企业高管数量是2019年的两倍。在同一时期，制定了为AI开发提供指导的伦理章程的组织比例从5%增加到了45%。

本节课中我们一起学习了伦理困境与道德诱惑的核心区别，探讨了伦理在人工智能开发中的根本重要性，并了解了企业界对建立负责任AI实践日益增长的认识。我们认识到，伦理是一个动态的、基于价值观的决策过程，对于在快速发展的技术时代建立和维护社会信任至关重要。

010：对人工智能的担忧 🤖

在本节课中，我们将要学习人工智能，特别是生成式AI，所引发的主要伦理关切。我们将逐一探讨透明度、偏见、安全、隐私等核心问题，并了解这些挑战的根源以及应对它们的重要性。

上一节我们从宏观层面探讨了伦理问题。然而，人工智能所驱动的先进技术也带来了一些尤为相关的伦理担忧。虽然本模块无法涵盖所有问题，但我们将审视在讨论AI伦理时备受关注的一些主题。AI的每一个用例都带来了独特的挑战，谷歌正致力于解决这些挑战。但作为一个行业，我们必须提高对这些问题的认识，以便共同制定应对策略。

以下是当前被提出的主要AI关切点。

透明度 🔍

随着AI系统变得越来越复杂，建立足够的透明度以让人们理解AI系统如何做出决策，正变得日益困难。在许多情况下，能够理解AI系统的工作原理对于终端用户的自主权或做出知情选择的能力至关重要。缺乏透明度也会使开发者更难预测这些系统何时以及如何会失败或造成意外伤害。

允许人类了解决策背后因素的模型，可以帮助AI系统的利益相关者更好地与AI协作。这可能意味着知道在AI表现不佳时何时进行干预、加强使用AI系统结果的策略，以及确定如何改进AI。

不公平偏见 ⚖️

第二个关切是不公平偏见。AI本身不会制造不公平偏见，它揭示并放大了现有社会系统中存在的偏见。AI的一个主要陷阱在于，其规模化能力会强化和延续不公平偏见，这可能导致进一步的意外伤害。塑造社会的不公平偏见也塑造了AI的每一个阶段，从数据集和问题定义，到模型创建和验证。AI是其设计和部署所处的社会背景的直接反映。为了减轻伤害，需要识别并解决社会背景和可能的偏见。

例如，视觉系统正被应用于公共安全和物理安防的关键领域，以监控建筑活动或公共示威。在这里，偏见可能使监控系统更有可能将边缘化群体误认为罪犯。这些挑战源于许多根本原因，例如训练数据中某些群体的代表性不足和其他群体的过度代表性、缺乏充分理解系统影响所需的关键数据，或产品开发中缺乏社会背景考量。

安全 🛡️

第三个AI关切是安全。与任何计算机系统一样，恶意行为者有可能利用AI系统中的漏洞进行恶意目的。随着AI系统嵌入社会的关键组成部分，这些攻击代表了可能严重影响安全与安保的漏洞。

安全可靠的AI涉及信息安全的传统关切，以及新的关切。AI的数据驱动特性使得训练数据对窃取者更有价值，同时AI也可能使攻击的规模和速度更大。我们还看到了AI特有的新型操纵技术，例如深度伪造，它可以模仿某人的声音或生物特征。

隐私 🕵️

第四个AI关切是隐私。AI提供了快速、轻松地收集、分析和组合来自不同来源的海量数据的能力。

AI对隐私的潜在影响是巨大的，导致了数据利用、非自愿识别与追踪、侵入性的语音和面部识别以及用户画像等风险。AI的广泛使用伴随着采取负责任隐私方法的需求。

AI伪科学 🧪

另一个关切是AI伪科学，即AI从业者推广缺乏科学基础的系统。

例子包括声称能够根据面部特征以及头部的形状和大小来测量一个人犯罪倾向的面部分析算法，或用于情绪检测以根据面部表情判断某人是否可信的模型。科学界认为这些做法不科学且无效，并可能造成伤害。然而，它们被用AI重新包装，使得伪科学看起来更可信。这些AI的伪科学用途不仅伤害个人和社区，还可能破坏AI适当且有益的用例。

对人的问责 👥

第六个关切是对人的问责。AI系统的设计应确保满足各类人群的需求和目标，同时允许适当的人类指导和控制。

我们通过多种方式努力在AI系统中实现问责制：通过为系统明确定义目标和操作参数、提高关于AI何时及如何被使用的透明度，以及确保人们有能力干预系统或向系统提供反馈。

AI驱动的失业与技能退化 📉

最后一个AI关切是AI驱动的失业和技能退化。虽然AI为常见任务带来了效率和速度，但更普遍的担忧是AI会导致失业和技能退化。此外，还有人担心随着我们对技术的依赖加深，人类能力会下降。

社会在过去经历过技术创新，我们也相应地进行了调整，例如汽车取代了马匹，但也创造了以前无法想象的新产业和工作。如今，创新和技术进步以前所未有的速度和规模发生。如果生成式AI兑现其承诺的能力，劳动力市场可能面临重大颠覆。然而，工作将会转移，就像在任何重大技术进步期间一样。例如，在商业航空旅行出现之前，谁能想象出空乘人员这个职业？虽然许多工作可能会得到生成式AI的补充，但我们也将会创造出今天无法想象的崭新工作。

这一挑战伴随着机遇。我们需要共同努力制定计划，帮助人们在面对挑战并抓住机遇的同时，维持生计并在工作中找到意义。

除了通用AI应用和模型的关切列表外，生成式AI还有其独特的关切。作为广为人知的一种生成式AI，大语言模型能以听起来自然的语言形式生成文本的创造性组合。

大语言模型主要有三个关切：幻觉、事实性和拟人化。在生成式AI中，幻觉指的是AI模型生成了不切实际、虚构或完全捏造的内容。事实性关系到生成式AI模型所产生信息的准确性或真实性。拟人化指的是将类似人类的品质、特征或行为赋予非人类实体，如机器或AI模型。

以上只是与AI及生成式AI开发和部署相关的一些常见关切的选择。你对这些独特技术挑战的认识，可以指导你在制定应对策略时有所侧重。

那么，是什么导致了这些关切？凯捷咨询的一项调查中，高管受访者列举了这些报告的伦理问题的一些原因：缺乏专门用于伦理AI系统的资源（资金、人员和技术）；在开发AI系统时缺乏多元化的团队（涉及种族、性别和地域）；以及缺乏伦理AI行为准则或评估偏离该准则的能力。

在报告中，高管们还将急于实施AI的压力列为AI使用引发伦理问题的首要原因。这种压力可能源于获得先发优势的紧迫性、需要通过创新的AI应用获得竞争优势，或者仅仅是利用AI所能提供好处的压力。同样值得注意的是，33%的受访者表示，他们在构建AI系统时实际上并未考虑伦理问题，这本身就令人担忧。

但伦理不仅仅关乎我们不想做或不应该做的事情。AI和新兴技术有许多有益社会的用途，可以帮助对生活和社会做出积极贡献。AI和新技术可以通过改进材料、设计和流程来帮助解决复杂问题；开发新的医学和科学突破；实现对复杂动态系统更可靠的预测；以及提供更实惠的商品和服务，使人们从常规或重复性任务中解放出来。即使对于这些非常有益社会的解决方案，负责任的人工智能对于确保这些好处被所有人而不仅仅是少数利益相关者所享有也至关重要。

组织中伦理实践的关键好处在于，它们有助于避免对客户、用户乃至整个社会造成伤害。伦理实践促进人类的繁荣。这是我们最需要关注的。在谷歌，我们AI治理的目标是试图解决这些引发伦理问题的关切，而负责任的AI实践有助于实现这一目标。实施你自己的负责任AI治理和流程，可以帮助解决你业务中的这些伦理问题。

本节课中我们一起学习了人工智能，特别是生成式AI，所面临的主要伦理挑战，包括透明度、偏见、安全、隐私、伪科学、问责制以及对社会就业的影响。我们还探讨了这些问题的根源，并认识到通过负责任的AI实践来应对这些挑战、促进技术向善的重要性。

011：Google的AI原则制定过程 🧭

在本节课中，我们将学习Google如何制定其AI原则。我们将了解这一过程的背景、关键步骤以及从中汲取的经验教训，为你在自己的组织中建立负责任的AI框架提供参考。

多年来，Google的使命和价值观一直是我们的指导原则。然而，在思考如何负责任地开发和使用AI时，我们需要设计一套AI原则，以积极管理我们的研究和产品开发流程，并指导我们的商业决策。

背景与动机

上一节我们提到了制定AI原则的必要性。本节中我们来看看，当Google开始着手撰写AI原则时，该领域已有一些先驱者，但当时并没有太多的行业指导来帮助设定方向。

自那时起，情况发生了很大变化。制定负责任AI使用指南的组织名单已大幅增加。正如伯克曼·克莱因中心的报告《有原则的人工智能》所示，许多组织都定义了自己的AI原则。根据凯捷咨询的研究，这一数字在2019年至2020年间增长了40%。凯捷还发现，合乎道德的AI需要一个强大的领导力、治理以及围绕审计、培训和道德实践操作化的内部实践基础。

制定过程的分享

当你在组织中努力创建AI原则时，我们愿意分享我们创建自身原则的过程。需要承认的是，我们并非唯一实施AI原则的组织。你应该进行研究，并从各种倡议中汲取最佳经验。

我们希望你能从我们的过程、挑战和经验中学习，并最终创建和使用你自己的AI原则，作为你开发过程的基础。

Google的内部基础

从公司创立之初定义的使命声明和价值观，到团队在伦理与合规、信任与安全以及隐私等主题上持续开展的工作，Google多年来有许多不同的倡议来负责任地指导我们的工作。

随着AI成为我们业务中更重要的组成部分，许多团队通过日益认识到机器学习公平性的重要性，倡导采用负责任的AI方法。但我们当时缺乏一个正式且全面的方法，来应对所有Googler都能共同支持的、更广泛的负责任AI目标。

原则制定的启动

Google的AI原则工作始于2017年夏天，当时我们的CEO桑达尔·皮查伊将Google定位为一家“AI优先”的公司。以这一全公司范围的愿景为基础，我们着手为Google的未来技术设计一份AI伦理章程。这项努力后来演变为我们的AI原则。

需要指出的是，这段旅程并非一帆风顺。这是多年来许多不同人群共同努力、不断学习和迭代的结果。

我们理解这是一个复杂且不断发展的主题，我们将在后续模块中分享一些经验教训。但事实证明，负责任地开发AI需要持续的承诺。

无论是在今天还是未来，我们完全期望随着我们的学习和该领域的发展，继续迭代我们的方法和解释。

建立共同承诺

我们相信，除了个人的道德价值观外，当存在每个人都参与履行的共同道德承诺时，组织和社区才能蓬勃发展。拥有一套共同且成文的AI原则，除了我们各自持有的价值观外，还能让我们被一个共同的目标所激励。

组建跨职能团队

Google认识到，不仅需要关注技术开发和创新，还必须确保开发与我们的使命和价值观保持一致。为此，我们组建了一个跨职能的专家小组，以确定需要哪些指导方针来解决AI提出的重要挑战。

在创建团队时，我们不仅仅依赖人工智能方面的职能专长。相反，我们选择了代表Google内部不同技能、背景和人口统计特征的个体。

以下是组建团队时考虑的关键维度：

技能背景：为核心小组寻找具有用户研究、法律、公共政策、隐私、在线安全、可持续性和非营利组织背景的人员。
外部专家：寻求AI、人权和民权领域专家的意见，以及未严格属于核心工作组的产
品专家的意见。
多元化声音：纳入来自不同国家、性别、种族、民族和年龄群体的广泛而多样的声音。

我们还为那些不直接在工作组中的人员开发了发声渠道。例如，我们要求每位成员征求其他团队和外部专家的讨论和反馈，并将想法带回核心小组。让一个小型团队负责根据尽可能多的利益相关者的意见采取行动，是我们成功的关键。

在创建你的AI原则时，纳入广泛的声音可以使原则更具包容性，并培养对该过程的信任。

研究阶段

团队从进行研究开始。我们想要记录人们对AI有哪些担忧。人们认为什么是不负责任的AI？团队从广泛的来源梳理了用户和学术研究，并分析了媒体如何描述AI。我们甚至研究了文化和流行文化中的AI参考，例如AI在电视节目和科幻书籍中是如何被描绘的，以更好地理解消费者可能如何看待AI。

所有这些研究都有助于我们发现我们希望指导工作的标准。

起草与迭代过程

之后，团队开始了一个迭代过程，起草一套旨在解决研究中发现的主要关切和主题的原则。

我们首先将所有研究汇总并组织成类别，这产生了一个很长的潜在原则清单。

为了完善这份清单，我们首先请AI政策、法律和公民社会领域的外部专家（在未看到我们的草案原则的情况下）提出他们自己的简短清单。然后，我们分享了我们根据研究创建的草案原则进行比较。最后，我们收集了他们的反馈并指出了差距，带回内部工作组进行进一步整合。

我们进行了持续的反馈和完善过程，以进一步整合原则清单，同时保持广泛的覆盖范围，并认识到我们可能忽略的任何方面。

最终成果

最终成果是Google的AI原则，包括七项AI应用目标（指导我们的AI愿景），以及一份四项我们不会追求的AI应用清单。

确定我们不会追求的AI应用的目标是，为我们业务所有部分都不会设计的、高度敏感的AI应用领域提供明确的护栏。承认我们明确不会构建什么，与概述我们将要构建什么同样关键。

发布与实施

这项工作在2018年6月Google发布我们的AI原则时达到高潮。作为一家公司，我们始终致力于每天将这些原则付诸实践。它们被纳入日常对话中，构成了产品开发过程中机会和危害审查的基础。最重要的是，它们在决策时为所有Googler提供了共同的道德承诺。

对学习者的启示

我们在此描述的是Google在负责任AI领域还处于早期阶段时，将我们的原则成文化的历程。自那时起，关于AI伦理要求、标准和实践的研究主体已经增长了很多，尤其要感谢有色人种学者和倡导者社区的开创性工作。

AI社区围绕AI原则应包含哪些内容才能有用，已经出现了相对的趋同。虽然你公司的使命、价值观、地理分布和组织目标会影响你的方法，使得某些原则比其它原则更与你特定的业务环境相关，但存在一套明确的、适用于所有用途和行业的主题可以帮助你入门。

例如，如果你的公司专门从事为客户支持创建聊天机器人，虽然可能存在核心主题，但你的一些AI原则可能看起来不同，或者比那些为不同客户涉及非常广泛用例的咨询公司的原则更具体于你的环境。

我们希望对我们方法的这种洞察对你的组织有所帮助，提供一个可以在此基础上构建的框架。你面临的挑战和你组织的价值观将定义你识别和创建自己AI原则的过程，这些原则既要传达你组织的精神特质，又要作为你AI治理的基础。

本节课中我们一起学习了Google制定其AI原则的完整过程，从背景动机、团队组建、研究分析、迭代起草到最终发布与实施。关键要点包括：组建多元化团队的重要性、基于广泛研究进行迭代、明确“可为”与“不可为”的领域，以及将原则融入日常运营。这个过程为任何希望建立负责任AI框架的组织提供了一个可参考的蓝图。

012：伦理问题发现 🕵️

在本节课中，我们将要学习人工智能治理中的一个核心环节：伦理问题发现。我们将了解什么是问题发现，为什么简单的清单法行不通，以及如何通过实践和哲学视角来提升我们发现伦理问题的能力。

概述

人工智能治理的一个核心部分是建立稳健的问题发现实践。

问题发现是识别人工智能项目中潜在伦理关切的过程。

您所在组织制定的人工智能原则可以作为发现这些问题的指南。

为何清单法行不通

为了应对伦理关切，我们首先需要识别它们。人们可能会试图通过清单或概述每条原则的可行与不可行之处来提高这一过程的效率。

我们知道这很诱人，因为我们尝试过。我们曾试图创建决策树和清单，以确保我们的技术符合伦理。

但这行不通。现实情况是，我们需要应对伦理问题，不仅是在熟悉的产品或使用案例中，还要识别出从未见过的新技术所带来的新风险。

每个使用案例、客户和社会背景都是独特的。在一种情境下符合我们人工智能原则的工具或解决方案，在另一种情境下可能就不符合。我们从未想象过的技术正在以极快的速度和规模发展，这需要一个适应性的过程，而非僵化的、规定性的“是”或“否”的答案。

期望为每个使用案例创建一个简单的清单来满足您的人工智能原则是不可行的。我们认识到，没有什么可以替代对每个案例事实的仔细审查。

问题发现的类比：观鸟

一个有用的类比是将伦理问题想象成鸟。它们无处不在，但常常不被察觉。它们在某些区域出现的频率更高，并且大小不一，从奇特到普通都有。通过练习，发现它们会变得更容易。

在上班的路上，你可能经过了很多鸟，但你可能并没有真正注意到它们。现在，想象一下，如果你是一位训练有素的观鸟者。你会对你沿途遇到的物种更加敏感，并且更有可能注意到你每天经过的鸟类之间错综复杂的差异。

类似地，在问题发现中，目标是变得更加敏感，能够快速准确地识别和分类伦理问题与风险。

和观鸟一样，团队合作能看到更多。因此，让多位审查者参与是有帮助的。没有一个人能看到所有东西，而且存在一些特殊工具可以增强发现能力。

利用伦理视角（Lenses）

在伦理问题发现方面，道德哲学家们花费了数千年时间开发了各种“视角”来帮助识别伦理问题。

虽然你可能会审视各种哲学视角，并想知道应该选择哪一种来遵循，但我们发现，这并不真的是在所有场景中选择一种方法而放弃另一种。

在实践中，利用伦理视角提供了一种结构化的方式，从多个角度和视角来考虑问题，以确保我们审视并服务于那些重要的考量因素。

学习何时以及如何使用这些视角，可以让你在评估决策的后果、它们对人权和责任的影响，以及它们与拥有美德品格的含义是否一致之间进行切换。

如果你想了解更多关于伦理视角的信息。

请参阅马库拉应用伦理学中心的材料。

总结

本节课中，我们一起学习了人工智能伦理治理中的“问题发现”环节。我们了解到，识别伦理问题是一个需要实践和敏感度的过程，无法通过简单的清单一劳永逸。通过类比观鸟，我们明白了团队协作和持续练习的重要性。最后，我们介绍了利用多种哲学“视角”来结构化地审视问题，这是确保全面考虑伦理风险的关键方法。掌握这些，将帮助我们更负责任地开发和部署人工智能技术。

013：谷歌AI原则的伦理目标 🎯

在本节课中，我们将要学习谷歌AI原则背后的核心伦理目标。这些目标不仅解释了每条原则的精神内涵，还为我们提供了一致性的评估框架。我们将逐一探讨这些旨在构建有益、公平、安全且负责任的人工智能应用的伦理目标。

概述

谷歌确立了一系列核心伦理目标，它们可以被视为对每项AI原则背后理念的阐释。这些伦理目标帮助我们以一致的方式评估项目是否符合原则。它们能指导我们发现可能存在的伦理问题，但并非一份简单的核对清单。接下来，我们将详细解析构成谷歌AI原则的几项核心伦理目标。

第一节：有益于社会 🤝

上一节我们介绍了伦理目标的总体概念，本节中我们来看看第一个目标：有益于社会。该目标旨在支持健康的社会体系和制度。

以下是其具体内涵：

防止不公：这意味着要防止自动化系统不公平地剥夺对人们福祉至关重要的服务，例如就业、住房、保险或教育。
降低社会危害风险：旨在从数量、严重性、可能性和范围上减少社会危害的风险。
保护弱势群体：致力于降低对弱势群体的风险。
减少意外伤害：同时旨在减少非预期伤害的风险。

第二节：避免制造或加剧不公平偏见 ⚖️

在追求社会效益的基础上，第二个原则强调避免制造或加剧不公平偏见。其目标是推动AI实现对个人和群体的公平、公正及平等对待。

以下是实现该目标的关键考量：

限制历史偏见影响：应限制训练数据中对边缘化群体的历史偏见的影响。这既包括已包含的数据，也包括因历史上被排斥而缺失或不可见的数据。
关注歧视性影响：通过这一原则，我们密切关注技术歧视可能对产品对所有用户的有用性产生的影响。

为了更直观地理解，让我们看一个图像分类的例子。一个在带有偏见数据上训练的AI图像分类器，可能只将穿着传统西方婚礼服饰的情侣图片标记为“婚礼”。然而，一对穿着其他文化传统婚礼服饰的情侣图片，可能只会被标记为“人”而非“婚礼”。这展示了该分类器可能无法识别来自世界不同地区或文化的婚礼图像。这不是我们希望看到的标签和区分方式，这也是数据集未能反映我们全球用户基础的一个例子。正如本例所示，代表性不足是有害的。

认识到这一点，谷歌致力于构建旨在为所有人服务的全球性产品。为了实现更广泛的多样性代表，谷歌曾举办竞赛，邀请全球公民将他们的图像添加到一个扩展数据集中。因为训练数据必须能够如实反映社会，而不是像有限数据集可能代表的那样。

重要的是要认识到，不公平可能在机器学习生命周期的任何阶段进入系统：从最初如何定义问题，到如何收集和准备数据，再到模型如何训练和评估，直至模型如何集成和使用。在这个流程的每个阶段，开发者都面临着不同的负责任AI问题和考量。在生命周期内，我们采样数据的方式、标记数据的方式、模型的训练方式以及目标是否排除了特定用户群体，所有这些因素都可能共同作用，产生偏见。你很少能找出这些问题的单一原因或单一解决方案。

机器学习公平性的工作就是理清这些根本原因和相互作用，并找到尽可能公平的前进方案。我们通过明确生命周期每个阶段需要回答的问题来实现这一点，例如：

模型将解决什么问题？
目标用户是谁？
可能影响哪些其他群体？
哪些群体在今天是不可见的？
训练数据是如何收集、采样和标记的？
训练数据是否存在偏差？
模型是如何测试和验证的？
模型的行为是否符合预期？

虽然这并非一份详尽的清单，但我们发现，在每个阶段提出此类问题有助于指导我们的调查并识别可能的不公平偏见。尽管这些问题可能难以回答，并且需要一系列社会技术层面的输入，但有一些基础工具可以在此过程中提供帮助。其中一些通过TensorFlow生态系统开源，另一些则是谷歌云提供的托管产品。我们在此不重点介绍工具，但你可以查看资源链接以获取更多信息。

这些问题对数据集和模型的开发方式有着巨大影响。其中一些问题看似简单，但实际上常常被低估，这可能导致项目在最后阶段进行重大修改，甚至完全取消项目。负责任地开展AI工作的核心在于提出难题。

第三节：为安全而构建和测试 🛡️

在关注公平性之后，第三个原则是为安全而构建和测试。该原则旨在促进人与社区的安全（包括身体完整性和整体健康），以及场所、系统、财产和基础设施免受攻击或破坏的安全。

以下是其核心要求：

有效监督与测试：确保对安全关键型应用进行有效的监督和测试。
控制AI系统行为：实现对AI系统行为的控制。
限制对机器智能的依赖：限制对机器智能的依赖程度。

第四节：对人类负责 👥

确保安全的同时，AI系统必须对人类负责。第四个原则旨在尊重人的权利和独立性。

这意味着：

限制权力不平等：限制权力不平等的情况。
保障选择退出权：限制人们缺乏选择退出AI交互能力的情况。
促进知情同意：旨在促进用户的知情同意。
确保反馈与纠错路径：寻求确保存在报告和解决滥用、不公正使用或故障的途径。

其目标是实现对AI系统的有意义的人类控制和监督，以促进可解释且值得信赖的AI决策。

第五节：融入隐私设计原则 🔒

与问责制紧密相关的是隐私保护。谷歌AI原则的第五项是融入隐私设计原则。

其目标是保护个人和群体的隐私与安全。为此，我们希望确保通过强大的安全措施特别谨慎地处理个人身份信息和敏感数据。该原则的目标还包括确保用户对数据将如何被使用有清晰的预期，并且他们感到知情并有能力对该使用给予同意。

第六节：坚持高标准的科学卓越性 🔬

在技术层面，第六项原则坚持高标准的科学卓越性，旨在推动AI领域的知识进步。

这意味着：

遵循科学严谨的方法：遵循科学严谨的方法。
确保主张科学可信：确保功能主张具有科学可信度。

该原则旨在通过致力于开放探究、学术严谨、诚信和协作来实现这一点。通过发布教育材料、最佳实践和研究来负责任地分享AI知识，使更多人能够开发有用且有益的AI应用，同时避免AI伪科学。

第七节：仅用于符合这些原则的用途 ✅

最后，AI原则中关于AI应用的目标是仅用于符合这些原则的用途。这旨在为谷歌对社会的独特影响寻求问责。

许多技术都有多种用途。该原则旨在限制潜在有害或滥用的应用。这包括技术解决方案与有害用途的关联程度或适应程度。该原则追求我们有益AI技术的最广泛可用性和影响力，同时阻止有害或滥用的AI应用。它考虑到谷歌不仅仅是构建和控制供自己使用的技术，还使该技术可供他人使用。谷歌希望确保不仅是我们拥有和运营的技术符合我们的AI原则，我们提供给客户和合作伙伴的技术也同样符合。我们使用各种因素来准确定义我们对特定AI应用的责任范围。

总结与谷歌的承诺

本节课中，我们一起学习了构成谷歌AI原则的七项核心伦理目标：有益于社会、避免偏见、保障安全、对人类负责、保护隐私、坚持科学卓越性以及限定使用用途。

除了这七项代表我们如何负责任地使用AI的承诺的伦理目标外，谷歌还概述了四个不会追求的AI应用领域：

可能造成整体伤害的应用。
武器或其他主要目的是造成人身伤害的技术。
违反国际公认规范的监控技术。
目的违反国际法和人权的应用。

这七项目标和四个禁区共同构成了谷歌的AI原则，并简洁地传达了我们在开发先进技术时的价值观。我们相信这些原则是我们公司及AI未来发展的正确基础。然而，确立AI原则只是第一步。要运用这些原则来解释问题和做出决策，需要一个流程。负责任的AI决策需要仔细考虑AI原则应如何应用、当原则发生冲突时如何权衡取舍，以及如何针对特定情况降低风险。为了将AI原则付诸实践，我们建立了一个正式的审查流程和治理结构，以评估新项目、产品和交易中出现的多方面伦理问题。我们还有几个相关的计划和倡议。这就是AI原则的实践方式。

014：Google的AI治理 🏛️

在本节课中，我们将学习在定义了AI原则之后，如何建立有效的AI治理体系，特别是通过设立审查流程来实践这些原则。我们将探讨常见的误解，并深入了解Google如何构建其AI治理委员会结构。

概述：从原则到实践

上一节我们介绍了制定AI原则的重要性。本节中我们来看看如何将这些原则付诸实践。定义AI原则只是第一步，下一步是建立一个审查流程来落实它们。

拥有AI原则作为指导并不能立即解答所有关于AI伦理的疑问，它们也不能免除你进行艰难对话的责任。这些原则提供的是一个起点，用于确立你所秉持的价值观，以及你在技术开发中需要评估的内容。应用这些AI原则需要持续且协同的努力。

虽然负责任AI的技术工具有助于检查特定机器学习模型的性能，但建立稳健的AI治理流程是确立目标的关键第一步。只有在你拥有明确的责任目标时，技术工具才有用。一个专门的流程能促进负责任AI的文化，而这在传统的产品开发生命周期中通常不存在。

澄清常见误解

在深入探讨具体流程之前，让我们先快速澄清一些关于负责任AI治理的常见误解。

以下是两个需要特别注意的误解：

误解一：雇佣有道德的人就能保证AI产品的道德性。
- 现实情况是，两个被认为道德感很强的人，基于他们的经验和背景，可能对同一情况或AI解决方案得出截然不同的结论。世界经济论坛报告《Ethics by design》中的研究表明，即使是最有道德的人也可能存在道德盲点。因此，围绕道德决策建立实践并为道德审议留出空间非常重要，这两者都是实现道德结果的重要因素。

误解二：可以为负责任AI创建一个检查清单。
- 检查清单或决策树可能让人感到安心，但根据我们的经验，对于如此新兴的技术，检查清单在治理方面是无效的。对于每个产品，其技术细节和使用背景都是独特的，需要自己的评估。遵循检查清单可能会限制批判性思维，并导致道德盲点。

AI治理的核心：程序与实践

澄清了误解后，我们认识到AI治理的核心在于拥有支持技术审查的程序和实践。这些程序让你的团队能够运用道德想象力，即在特定情境中设想全部可能性以解决道德挑战的能力。它还鼓励人们建立自己的问题发现实践，这是规定的检查清单和更僵化的规则所无法实现的。

Google的AI治理委员会结构

那么，让我们详细了解我们是如何将审查流程操作化的。Google创建了一个正式的审查委员会结构，以评估新项目、产品和交易是否符合我们的AI原则。

该委员会结构由以下AI治理团队组成：

以下是构成Google AI治理框架的四个关键团队：

核心负责任创新团队：该团队为Google不同产品领域实施AI原则审查的团队提供指导，建立对我们AI原则的共同解释，并确保全公司决策的一致性。他们处理日常运营和初步评估。这个小组包括用户研究员、社会科学家、伦理学家、人权专家、政策与隐私顾问以及法律专家等，确保了视角和学科的多样性。
高级专家团队：这是我们委员会结构中的第二个AI治理团队，由来自Google各学科领域的高级专家组成，他们提供技术、功能和应用程序方面的专业知识。这些专家为新兴技术和主题制定战略和指南，并在需要时就审查提供咨询。
高级执行官委员会：这是我们委员会结构中的第三个AI治理团队，是一个由高级执行官组成的委员会，负责处理最复杂和困难的问题，包括影响多个产品和技术的决策。他们作为升级机构，做出复杂的、具有先例意义的决策，并在公司最高层面提供问责。
定制化AI治理与审查委员会：最后，在某些产品领域内嵌入了定制的AI治理和审查委员会，它们与负责任创新团队紧密合作。这些委员会会考虑其技术、用例、训练数据、社会背景以及AI在生产中的集成方式等方面的独特情况。

最佳实践：多样性与心理安全

所有团队审查的一个最佳实践是寻求来自不同背景的人员参与，这确保了基于审议的稳健和可信的结果。为了使这种讨论和辩论取得成功，需要培养一种心理安全的环境。

为了让你更好地了解Google Cloud如何实践负责任AI，接下来我们将介绍我们的定制AI治理流程。

总结

本节课中我们一起学习了建立AI治理的关键步骤。我们了解到，仅有AI原则和道德员工是不够的，必须建立结构化的审查流程和实践。Google通过设立包含核心创新团队、专家团队、高管委员会及定制委员会的多层治理结构，将原则转化为可操作的审查机制，并强调多样化的参与和心理安全的环境对于做出稳健、负责任的决策至关重要。下一节，我们将具体进入Google Cloud的定制化治理流程。

015：Google Cloud的AI审核流程 🛡️

在本节课中，我们将要学习Google Cloud如何通过其内部审核流程，确保其开发和应用的人工智能技术符合伦理原则并负责任地发展。我们将详细解析其两大核心审核机制：客户AI交易审核与云AI产品开发审核。

概述

Google Cloud为企业提供广泛的AI技术，包括AI平台Vertex AI、MLOps能力、API及端到端解决方案。我们认为，对所创造产品的影响进行伦理评估，对于建立信任和取得成功至关重要。因此，Google Cloud实施了自定义的AI原则审核流程。

为了确保AI的开发是负责任的，Google Cloud内部存在两个相互关联但职责分明的审核机构：客户AI交易审核 和 云AI产品开发审核。它们共同回答两个核心问题：提议的用例是否符合我们的AI原则？如果符合，我们应如何设计和集成此解决方案，以确保实现预期效益并减轻潜在危害？

客户AI交易审核流程 🔍

上一节我们介绍了审核流程的整体框架，本节中我们来看看针对具体客户项目的“客户AI交易审核”。该流程的目标是在交易推进前，识别任何可能不符合我们AI原则的用例风险。

以下是该审核流程的几个关键阶段：

1. 销售交易提交
这是信息收集的入口流程，通过两种方式确保覆盖全面。现场销售代表经过培训，会提交其AI客户机会以供审核。此外，一个自动化流程会在公司级的销售工具中标记需要审核的交易。

2. 初步审查
在此阶段，云AI原则团队的成员在中心“负责任创新”团队的协助下，审查通过入口流程提交的交易，并确定哪些交易需要更深入的审查。他们会应用相关的历史先例，讨论和辩论潜在的AI原则风险，并在需要时要求提供额外信息。此分析为后续的“AI原则交易审核委员会”会议设定了议程。

3. 评审、讨论与决策
AI原则交易审核委员会召开会议讨论客户交易。该委员会由组织中跨多个职能的领导者组成，例如产品、政策、销售、AI伦理和法律部门。委员会仔细考量AI原则如何适用于具体的交易和用例，并决定交易是否可以推进。

该小组做出的决策范围包括：

推进：交易可以按计划进行。
不推进：交易因不符合原则而被否决。
满足条件后推进：在满足某些特定条件或指标前，交易暂时不能推进。
升级决策：将决策权提交给更高级别的委员会。

此处的决策基于共识达成。如果无法达成明确决定，交易审核委员会可以将议题升级至高级执行委员会。

云AI产品开发审核流程 🏗️

了解了客户项目的审核后，我们转向Google Cloud自身产品的开发审核流程。该流程同样包含多个阶段，旨在将伦理考量融入产品设计之初。

1. 管道开发与规划
云AI原则团队会跟踪产品开发管道并规划审核时间，确保审核发生在产品开发生命周期的早期。这对于实现“设计即伦理”的开发方法至关重要，确保负责任的AI考量被整合到产品设计中，而非事后补救。

2. 初步审查与简报准备
团队根据产品发布时间线来确定AI产品的审核优先级，除非某个特定用例被认为风险更高。在审核会议之前，云AI原则团队的成员会评估产品并起草审核简报。他们与产品经理、工程师、其他原则团队成员以及公平性专家紧密合作，深入理解并界定审核范围。

审核简报通常包含以下核心内容：

产品的预期目标和社会效益。
产品将解决的业务问题。
所使用的数据。
模型的训练和监控方式。
产品将被集成的社会背景。
其潜在的风险和危害。

在评估中，团队会协作思考受AI系统影响的每一个利益相关者群体，讨论在选择一种行动方案而非另一种时存在的伦理困境和价值冲突。最后，简报的一个关键部分是提出一个“校准计划”，通过解决潜在危害，使产品开发与AI原则保持一致。

3. 讨论与校准
团队实际召开会议，从负责任AI的角度评审AI产品。这些深入的实时产品评审是我们审核流程的关键组成部分，使我们能够以团队形式发现并讨论额外的伦理问题，并将负责任的AI融入产品设计、开发和未来路线图的决策中。

4. 批准与执行
评审会议结束后，AI原则团队会综合评审简报中的相关内容，并添加会议中提出的新问题、缓解措施或决策，以更新并最终确定校准计划。在校准阶段，该计划会被发送给委员会和产品负责人签署批准。批准后，校准计划将被纳入产品开发路线图，并由AI原则团队跟踪其执行与完成情况。

需要强调的是，校准计划因产品或解决方案而异。并非所有前进路径都涉及技术解决方案或修复。伦理风险和危害并非总是技术失误的结果，也可能源于产品被集成的环境背景。因此，前进路径可能包括：

缩小技术应用的范围。
采用“许可名单”方式发布（即产品不普遍可用，使用前需经过客户交易审核）。
随产品附带教育材料发布，例如相关的模型卡片或实施指南，告知用户如何负责任地使用解决方案。

流程演进与经验总结 📈

随着时间的推移，评审具有类似问题的产品揭示了一些可在多次评审中借鉴的发现。这使得我们可以创建某些通用政策，这些政策随后成为先例，简化了产品团队的流程。当然，每一次评审仍需保持同等程度的谨慎，因为每个新案例都会带来新的考量，这也凸显了流程和深入讨论的重要性。

我们将AI原则付诸实践的过程本身也在不断成长和演变，并且我们预计这一过程将持续下去。

总结

本节课中，我们一起学习了Google Cloud为确保AI负责任发展而建立的两大核心审核流程。客户AI交易审核 聚焦于早期客户项目，评估其用例是否符合伦理原则；而云AI产品开发审核 则贯穿产品开发生命周期，旨在将伦理设计融入产品构建之初。这两个流程通过多阶段、跨职能的深入讨论与决策，共同致力于实现技术的预期效益并减轻潜在危害。

当您思考建立自己的AI治理流程时，我们希望这可以作为一个有用的框架，供您调整以适应您组织的使命、价值观和目标。在后续课程中，我们将探讨更多使Google审核流程更有效的经验教训。

016：名人识别案例研究 🎬

在本节课中，我们将通过一个具体的案例研究，了解谷歌云如何在其AI原则和审查流程的指导下，负责任地开发并推出了“名人识别”API。我们将看到从技术限制、伦理考量到最终产品落地的完整过程。

上一节我们介绍了AI伦理的一般性原则，本节中我们来看看这些原则如何在一个真实的产品开发案例中得到应用。

概述

以下案例研究概述了我们的AI原则和审查流程如何塑造了谷歌云在人脸识别技术上的方法。

让我们从审查的结果开始。2019年，谷歌云推出了“名人识别”API。这是一个范围严格限定的API，面向媒体和娱乐行业的客户，旨在帮助他们为专业授权的媒体内容中的名人打上标签。

在没有昂贵打标流程的情况下，搜索视频内容一直是一项困难且耗时的工作。这使得创作者难以组织他们的内容并提供个性化体验。

名人识别API是一个预训练的AI模型，这意味着它不可定制。该模型能够基于授权图像识别全球数千名受欢迎的演员和运动员。这是谷歌云首个包含人脸识别的企业产品。😊

决策背景与伦理考量

那么，我们是如何走到这一步的？人脸识别技术因其潜在的不公平偏见而被认定为一个关键关切点。

早在2016年，云业务领导层就决定人脸识别不会成为云视觉API产品的一部分，尽管这是客户最迫切的需求之一。为了进一步探讨这个问题，我们让人脸识别技术经历了我们AI原则审查流程的早期迭代。

这些审查为我们提供了一个开放的论坛和时间，让我们能够批判性地思考这项技术的研究、社会背景和挑战。

我们已经看到，一系列与人脸相关的技术对个人和整个社会有多么有用。它们可以使产品更安全、更可靠，例如使用人脸认证来控制对敏感信息的访问。有些用途具有巨大的社会效益，例如非营利组织利用人脸识别技术打击人口贩卖。

但重要的是，这些技术的开发必须经过深思熟虑并负起责任。谷歌对滥用人脸识别技术的许多广泛讨论的担忧表示认同，即：

它必须是公平的，因此不会强化或放大现有的偏见，尤其是在这可能影响代表性不足群体的情况下。

它不应被用于违反国际公认准则的监控。
它需要保护人们的隐私，提供适当程度的透明度和控制。

为了减少滥用的可能性，并使该技术能够用于符合我们AI原则的企业用例，谷歌决定开发一个范围严格限定的人脸识别应用——名人识别。

外部评估与保障措施

为了让名人识别API做好发布准备，除了我们内部的审查流程，我们还寻求了外部专家和民权领袖的帮助。

我们认识到，我们的生活经验不一定与受影响人群的生活经验一致，我们需要帮助将这些经验和关切纳入我们的审查。

考虑到产品的预期用途，社会中黑人和少数族裔演员的系统性代表不足是我们评估的一个关键因素。为了更深入地关注潜在影响，我们聘请了一家名为“企业社会责任”（BSR）的外部人权咨询公司，进行深入的人权影响评估。

与BSR的合作在塑造API的功能和政策方面发挥了至关重要的作用，将人权考量整合到产品开发生命周期的全过程。它还揭示了解决方案在哪些方面需要额外的监督，并验证了我们之前不提供通用人脸识别API的决定。他们的完整报告是公开的，可以在本课程的资源部分找到。

基于BSR的建议，谷歌实施了一系列保障措施，以下是关键措施：

允许名单访问：名人识别API仅对列入允许名单的合格客户开放。
预定义数据库：名人数据库经过精确定义，并限制在一个预定义的名单内。
退出政策：实施退出政策，允许名人将自己从名单中移除。
扩展服务条款：适用于该API的扩展服务条款。

这些措施旨在避免和减轻潜在危害，并为谷歌提供了一个坚实的基础来降低人权风险。

公平性分析与技术改进

谷歌审查名人识别API的另一个关键步骤是一系列公平性分析。从根本上说，这些公平性测试旨在评估API在召回率和精确率方面的性能。

换句话说，我们不仅评估了API针对不同肤色和性别群体的性能，还评估了这些群体组合的性能，例如肤色较深的女性或肤色较浅的男性。

在三次独立的公平性测试中，我们发现我们的训练数据集与一个基于肤色的基准数据集之间存在误差。这些误差让我们暂停下来，并决定更深入地探究根本原因。

我们检查的第一件事是我们数据集中肤色标签的准确性。结果发现，对于中等和深色皮肤的人，这些标签并不完全准确。我们根据Fitzpatrick皮肤类型量表重新标注了肤色，该量表在Joy Buolamwini和Timnit Gebru的开创性研究“性别阴影”中被使用。😊

这项研究评估了自动面部分析算法和数据集中存在的与肤色和性别相关的偏见。重新标注肤色降低了错误率，但我们发现了进一步的差异。

一小部分演员在评估数据集中占据了总识别错误（missed IDs）的很大比例，尤其是对于深色皮肤的男性。了解到大多数错误率只影响少数特定的演员后，我们查看了错误最多的演员，发现他们几乎有100%的误拒率。

由于名人识别API的范围有限，我们能够逐一检查测试集和图库，以确定问题所在。😊

我们发现，对于三位黑人演员，我们的名人图库中是他们成年后的照片，而训练集中则是他们年轻得多时的演员照片。我们的模型无法将成年演员识别为他们多年前扮演的年轻角色。

在这种情况下，我们通过扩展训练数据集来解决这个问题，纳入了名人职业生涯中不同时期和不同年龄段的图像。这消除了错误率之间的差异。

总结与后续发展

这次经历让我们深刻认识到，花时间审视解决方案的整体背景（即媒体中的代表性问题）的重要性。只有理解了这一背景，严格限定了解决方案的范围，并经过严格的公平性测试和改进API后，我们才有信心发布该API。😊

这个例子说明了为什么负责任地开发AI能带来AI的成功整合。

2020年年中，鉴于对该技术更广泛的担忧，我们欢迎其他科技公司限制或退出其人脸识别业务的消息。最终，我们的AI治理流程使我们能够研究并确定一个符合我们AI原则的产品范围。

今天，谷歌发布了Monk皮肤色调（MST）量表。这是一个更精细的肤色量表，将帮助我们更好地理解图像中的代表性。

本节课中，我们一起学习了谷歌云“名人识别”API从伦理审查、外部评估、公平性测试到最终发布的完整历程。这个案例清晰地展示了将负责任的AI原则融入产品开发生命周期的具体实践，包括如何通过限定范围、引入外部评估、进行细致的公平性分析以及实施保障措施，来应对人脸识别技术带来的挑战，最终实现技术创新与社会责任的平衡。

017：问题发现过程 🔍

在本节课中，我们将要学习谷歌在实践其AI原则时，一个至关重要的环节：问题发现过程。这是一个系统性地识别AI用例中潜在伦理问题的过程，旨在确保AI技术的负责任开发与应用。

问题发现过程概述

上一节我们介绍了AI治理与审查的重要性，本节中我们来看看谷歌如何具体执行这一过程。在谷歌，将AI原则付诸实践时，AI治理和审查流程的一个关键部分是问题发现。

这个过程旨在识别所讨论的AI用例中可能存在的伦理问题。谷歌意识到，人们需要一个指南来帮助发现伦理问题。

从清单到批判性思考

然而，这个指南不能是一个简单的清单，因为清单可能会阻碍批判性分析。相反，谷歌的问题发现方法基于提供一系列问题，这些问题要求人们对他们开发的技术进行批判性思考。

这些问题植根于成熟的伦理决策框架，这些框架强调寻找额外信息和考虑最佳与最坏情况的重要性。这有助于发现那些原本可能被忽视的潜在伦理问题。

问题涵盖的范围

以下是问题所涵盖的一系列主题，这些问题旨在引导全面的思考：

整体产品定义：正在解决什么问题？目标用户是谁？
数据与模型：使用什么数据？模型如何训练和测试？
用例背景：用例的目的和重要性是什么？其对社会有益的应用有哪些？被滥用的可能性有多大？

这些问题旨在强调设计决策可能产生的影响，这些影响可能关系到AI模型的公平和负责任使用。

审查流程与高风险领域

我们从假设“总存在可以解决的问题”这一前提出发，评估所有AI用例，即使某个用例看起来明显对社会有益。如果在这个批判性思考过程中出现了可能与AI原则的伦理目标相冲突的问题，就会进行更深入的审查。

在进行AI原则审查的过程中，我们认识到AI开发中的某些复杂领域值得进行更密切的伦理审查。识别与你的业务背景相关的用例的风险和危害领域至关重要。在构建这些领域的AI应用时应格外谨慎。例如，这些可能包括涉及监控或合成媒体等的用例。

对你业务而言的复杂领域在很大程度上取决于你的领域和客户。识别新出现的风险和社会危害领域是整个行业内积极讨论的一部分，我们可以期待该领域即将出台的标准和政策。

案例分析：ASD护理机器人

现在，让我们通过一个假设的用例，使用问题发现方法来评估是否有任何AI原则正在或有可能被违反。我们将审查一个名为“自闭症谱系障碍护理机器人”的虚构产品，该案例改编自圣克拉拉大学马库拉应用伦理学中心的案例研究。

ASD的成因存在很大争议，但研究表明其患病率正在增加，并且早期诊断并提供关键服务的儿童更有可能充分发挥其潜力。一些学校已经成功使用机器人在训练有素的治疗师监督下帮助学生练习语言技能和社交互动，但这还不是一种负担得起或广泛可用的资源。因此，并非所有学校都提供这种支持。

现在，想象一个AI产品团队提议构建一个面向学龄前儿童、旨在家庭中使用的、价格合理的ASD护理机器人。他们设想了一个基于云的AI聊天机器人，具备语音、手势、面部情绪分析功能，以及用于强化积极社交互动的个性化学习模块。

应用问题发现方法

在问题发现中，首先识别需要对该用例进行批判性思考的问题是有用的。例如：

谁是该产品的利益相关者？
他们希望从中获得什么？
不同的利益相关者是否有不同的需求？
ASD护理机器人的开发和使用可能如何实现或违反每一条AI原则？

你的AI原则审查可能会提出比你立即能回答的更多问题，但分析将揭示需要探索的领域，这些领域最终将影响你的团队如何推进。

以下是针对各AI原则可能提出的具体问题示例：

社会效益

该产品的目标是扩大一种治疗形式的可及性，目前并非所有能从中受益的人都能获得。然而，这是提供这种治疗的最佳或正确方式吗？ASD是否应该被视为需要这种干预的东西？

避免不公平偏见

团队可能如何影响模型的公平性？在审查产品设计和集成时，应在哪些方面密切考虑和评估公平性？我们是否获得了将直接受护理机器人影响的人的必要意见？训练数据将从何处获取？这些数据代表谁？是否有某些患有ASD的个人或群体可能未被充分代表？

安全性

如果这个模型没有按预期运行，或随着时间的推移出现模型漂移或衰减，会发生什么？会危及人类安全吗？

隐私保护

家庭可以被视为一个高度敏感和共享的环境，甚至比教室更甚。这个护理机器人将收集什么样的数据？是否存在可能构成特殊隐私风险的数据集？哪些设计原则有助于确保为这个高度敏感的用例提供适当的隐私保护？

问责制

如何确保对系统的人类监督？确定对于使用该系统的人来说，什么样的知情同意是合适的？例如，应该允许护理机器人将自己表现为朋友吗？有哪些可能的积极和消极影响需要考虑？

科学卓越性

产品所有者是否具备开发此类工具所需的专业知识？或者是否应考虑与专门研究ASD或教育治疗的 external partner 合作，以深入了解学生的需求？确定这一点的相关问题包括：为确保其性能并带来预期效益，对此用例进行何种测试和审查是合适的？负责任地做到这一点的技术和科学标准是什么？

遵循原则的可用性

该解决方案是否会广泛提供给用户（例如，价格合理且易于获取）？

总结

通过提出问题发现问题，团队可以进行批判性思考，以评估用例的潜在益处和危害。只有经过彻底的审查，才能形成对新的AI应用的负责任方法。

本节课中我们一起学习了谷歌的“问题发现过程”。我们了解到，这并非一个简单的检查清单，而是一套基于批判性思考的问题框架，它覆盖了从产品定义、数据使用到安全性、公平性等全方位的伦理考量。通过一个虚构的ASD护理机器人案例，我们看到了如何将这套问题应用于具体场景，从而系统性地识别和评估潜在风险，确保AI开发与谷歌的AI原则保持一致，并最终走向负责任的人工智能。

018：实施AI原则过程中的挑战 🧩

在本节课中，我们将探讨在将谷歌的AI原则付诸实践的过程中，团队所遇到的一系列关键挑战。理解这些挑战对于任何希望负责任地开发和部署AI的组织都至关重要。

将谷歌的AI原则付诸运营，需要众多人员的协作与辛勤工作。我们持续从成功与挑战中学习这一过程，并致力于不断迭代、演进和分享经验，以助力你的旅程。

接下来，我们将深入探讨在AI原则实施过程中经常遇到的一些挑战。我们推测，这些挑战可能并非谷歌独有。

挑战一：衡量负责任AI的有效性并非易事 📊

上一节我们介绍了实施AI原则的整体框架，本节中我们来看看第一个具体挑战：如何评估其效果。

衡量负责任AI的有效性并非直截了当。评估缓解措施如何解决伦理问题，可能比评估技术性能更为困难。在一个重视影响力指标和可量化结果的领域，衡量那些旨在防止潜在危害或问题发生的缓解措施的有效性，并不容易。

因此，指示负责任创新成功的指标，可能与传统的商业指标有所不同。以下是几种我们采用的衡量方式：

追踪问题与缓解措施：我们追踪产品中的相关问题、对应的缓解措施及其具体实施情况。
评估治理影响力：我们考察AI治理在建立客户信任和加速交易成功方面的影响。
收集用户反馈：通过调查和客户反馈，收集最终用户的体验和感知，是另一种衡量有效性的方法。

这些类型的指标有助于追踪影响、识别趋势并建立先例。

挑战二：伦理困境的权衡 ⚖️

在应用我们的原则时，伦理困境经常出现，而非简单的对错抉择。审查委员会的成员们各自对AI原则有不同的解读、生活经验和专业知识，他们会将自己的价值观应用于伦理问题。这会在不同价值观之间产生张力，引发大量辩论。

需要记住的是，这些困境以及由此产生的审慎讨论，正是AI原则审查的核心目标之一。解决这些困境需要开放、坦诚的对话，并理解这些并非容易做出的决定。这些对话最终有助于识别和评估我们不同选择之间的权衡（trade-offs）。

挑战三：原则应用的主观性与文化相对性 🌍

另一个挑战是，应用我们的AI原则可能显得主观或具有文化相对性。我们通过以下几种方式来减少主观性：

明确的审查流程：拥有定义清晰的AI原则审查和决策流程，以培养对该流程的信任。
立足现实：将审查建立在技术、研究和商业现实的基础上，将缓解措施与现实世界的问题联系起来。
记录决策过程：记录决策是如何做出的，可以提供必要的透明度，并确保审查团队及其他相关方的问责。
建立先例记录：保持全面的先前案例记录，通过评估当前案例是否与过去案例有显著不同，来确保决策的一致性。

挑战四：获取外部专家与受影响群体的直接意见 🗣️

我们面临的另一个挑战是获取外部领域专家和受影响群体的直接意见。这至关重要，但并非易事，我们承认这个过程可能很困难。没有一个人能完全代表你试图代表的群体观点。我们的目标是尽可能广泛地听取各种声音，以确保产品是为所有人而设计的。

总结与展望

以上只是开发负责任AI过程中可能面临的众多挑战中的几个例子。在负责任AI的旅程中，问题和挑战将始终存在。认识到这一点，是努力最小化和缓解这些挑战的起点。

本节课中，我们一起学习了实施AI原则时在有效性衡量、伦理困境、主观判断以及外部意见获取等方面遇到的主要挑战。理解这些挑战，是构建更强大、更负责任的AI治理体系的第一步。

019：从实施AI原则中学到的最佳实践 🎯

在本节课中，我们将探讨谷歌在将其AI原则付诸实践的过程中所汲取的经验教训，以及这些经验如何催生出一套行之有效的最佳实践。这些实践旨在帮助组织负责任地开发和应用人工智能技术。

概述

我们将探索从AI原则实施中获得的经验，并了解这些经验如何引导我们形成一套最佳实践。我们鼓励您根据自身组织的需求，选择、调整并应用这些实践。

组建多元化的审查委员会

上一节我们介绍了AI原则的重要性，本节中我们来看看如何有效地实施这些原则。研究表明，组建一个在文化背景、专业知识和资历层级上多元化的审查委员会大有裨益。在谷歌，我们发现这是关键所在。

所有AI原则都需要解读，因此，组建一个能更贴近代表您当前或潜在用户群体的审查委员会至关重要。

以下是构建多学科团队时需要考虑的要点：

在组建团队时，必须纳入多样性、公平性和包容性的考量。
汇集多元化的群体有助于做出更明智的决策，从而产生更具可操作性和可行性的解决方案。

获取自上而下与自下而上的支持

关于AI原则的采纳，我们认识到同时获得自上而下和自下而上的支持与参与非常重要。

高层领导授权采纳AI原则是必要的，但这还不够。我们了解到，真正的文化变革需要整个组织的广泛采纳。

我们的经验是，团队自下而上的参与有助于使其常态化，这是将负责任AI嵌入公司文化的关键一步。同样，我们的经验表明，团队通常对负责任AI这一主题非常感兴趣，并且对此往往有自己的见解和信念。利用这种驱动力和知识，有利于整体的采纳。

通过教育推动采纳

在谷歌，负责任AI的采纳源于对团队的教育。因此，我们建议您对产品和技术团队进行技术伦理培训，并鼓励非技术利益相关者理解AI在技术、商业和社会层面的影响。

这有助于建立一种拥抱负责任AI的公司文化，将伦理道德直接与技术开发和产品卓越性联系起来。

统一商业目标与AI责任目标

认识到商业目标与负责任AI团队的目标和动机是一致的，这一点很重要，因为负责任AI = 成功的AI。

构建负责任的AI产品意味着直面伦理问题和困境，有时甚至需要放慢脚步以找到正确的前进道路。在这里，商业动机和负责任AI的动机可能看似冲突，但实际上，发布一个对所有人都运行良好的产品，既有利于商业，也有利于世界。

追求治理过程的透明度

我们力求在负责任AI治理过程中保持透明。

我们相信，围绕我们的流程和相关人员的透明度能够建立信任。虽然单个审查的细节通常需要保密，但治理过程的透明度有助于建立信任和可信度。

建立追踪与记录系统

在谷歌，我们还认识到当前的工作会影响未来的决策。因此，我们建议开发一个系统来追踪一致性计划，包括问题、缓解措施和先例。

谷歌审查团队的一个具体目标是识别模式并保存记录，以追踪决策及其制定过程，从而为未来的工作和审查提供参考。这个系统也有助于向利益相关者提供透明度，表明审查团队遵循了一条经过验证且可信的路径来做出决策。通过这种能在整个组织内提供一致信息的文档记录，我们发现负责任AI的倡议能够扩展到影响更多人。

保持谦逊与开放的态度

在我们的负责任AI之旅中，我们也认识到了保持谦逊态度的重要性。AI技术正在飞速变化，我们的世界也并非静止不变。

我们尝试有意识地记住，我们始终在学习，并且总能改进。我们相信，必须在确保解读的一致性与对新研究和新信息保持开放和响应之间保持微妙的平衡。在实施负责任AI实践时，我们相信保持开放演进的态度将使我们能够做出最佳、最明智的决策。

投资于心理安全感

我们了解到投资于心理安全感的好处。当一个团队拥有心理安全感时，成员通常会感到可以安全地承担风险，并在彼此面前展现脆弱。

在审查过程中，团队需要感到自在，能够探索“如果……会怎样”的问题和滥用领域，以便共同发现潜在问题。然而，尽管探索所有潜在问题是此过程中的重要一步，但为了避免“分析瘫痪”，在制定全面的防护措施之前，必须将问题发现建立在技术、商业和社会的现实基础之上。

明确效率并非首要目标

另一项最佳实践是：效率并非AI原则流程的首要目标。

需要在产品开发目标与进行全面AI审查所需的时间之间取得平衡。如果过于关注效率，可能会错过那些给客户带来后续伤害的潜在问题。虽然我们的AI原则需要解读并包含试错的成分，但它们仍需支持业务的速度和规模。深思熟虑和健康的意见分歧为人们提供了探索风险和缓解措施的空间。但一个周到且稳健的伦理流程也意味着要支持产品开发目标。

预设每个AI应用都需要关注

从假设每个AI应用都需要关注开始。伦理问题并非总是源于最明显的争议性用例和AI产品。即使是看似有益或无伤大雅的AI用例，也可能存在相关的问题和风险。这种假设推动我们去设想“如果……会怎样”，并探索所有可能的场景，以制定一套全面的缓解措施。我们的AI原则审查正是指导这些对话的框架。

总结

本节课中我们一起学习了谷歌从AI原则实施中总结出的一系列最佳实践，包括组建多元化委员会、获取全方位支持、重视教育、统一目标、保持透明与记录、秉持谦逊态度、营造心理安全感、平衡效率与深度审查，以及预设全面关注。我们知道这些实践将随时间进一步演进。我们希望这些最佳实践在您创建和实施自己的负责任AI流程时能有所帮助。