与孩子谈论人工智能

原文：towardsdatascience.com/talking-to-kids-about-ai/

最近我有幸参与了一个名为Skype a Scientist的项目，该项目将各种类型的科学家（生物学家、植物学家、工程师、计算机科学家等）与孩子们的课堂配对，讨论我们的工作和回答他们的问题。我相当熟悉与成人听众讨论人工智能和机器学习，但这是我第一次真正坐下来思考如何与孩子们谈论这个主题，这确实是一个有趣的挑战。今天，我将分享我在这个过程中想到的一些想法，这些想法可能对那些在生活中以某种方式与孩子有关的人有所帮助。

准备解释某事

在准备任何演讲，无论面向哪个听众时，我都有一些经验法则。我需要在心里非常清楚我打算传达哪些信息，以及听众在离开后应该了解哪些新事物，因为这将决定我将分享的信息。我还想以适合听众现有知识水平的适当复杂度呈现我的材料——既不高高在上，也不低于他们的理解能力。

在我的日常生活中，我并不一定了解孩子们对人工智能的了解（或他们认为他们了解的）。我希望我的解释适合听众的水平，但在这个情况下，我对他们已有的观点了解有限。在某些情况下，我惊讶地发现孩子们实际上对像公司之间以及国际边界上的人工智能竞争这样的问题相当了解。在决定如何构建内容时，想出使用听众已经非常熟悉的概念或技术的隐喻是一个有用的练习。思考这一点也为你提供了一个了解听众来源的切入点。除此之外，如果你确定你的演讲没有达到正确的水平，要准备好调整你的演讲方式。我喜欢在开始时问孩子们他们对人工智能的看法以及他们知道什么，这样我可以在走得太远之前开始获得这种清晰度。

理解技术

尤其是对孩子来说，我在我的演示中想要涵盖许多主题。经常阅读的读者会知道，我强烈主张普通人了解 LLMs 和其他 AI 模型被训练去做的事情，以及它们的训练数据，因为这对我们设定对模型结果的现实预期至关重要。我认为任何人，包括孩子，都很容易被 LLMs 的语气、声音甚至“个性”的拟人化特性所吸引，从而忽略了这些工具在现实中的局限性。

让它足够简单以适合年龄是一个挑战，但一旦你告诉他们训练是如何进行的，以及 LLM 是如何通过观察书面材料的例子来学习的，或者扩散模型是如何通过文本-图像对来学习的，他们就可以推断出这些可能的结果。随着 AI 代理变得更加复杂，以及底层机制变得更加难以分离，用户了解导致这种能力的基础模块就变得很重要。

对于我自己来说，我首先从解释训练作为一个一般概念开始，尽可能避免使用技术术语。当与孩子交谈时，一点拟人化的语言可以帮助使事物看起来不那么神秘。例如，“我们给计算机大量的信息，并要求它们学习其中的模式。”接下来，我将描述语言或图像像素中的模式等例子，因为“模式”本身太过于宽泛和模糊。然后，“它所学习的模式是用数学写下来的，而那个数学就是‘模型’里面的内容。现在，当我们向模型提供新信息时，它发送给我们一个基于它所学习的模式的响应。”从那里，我给出另一个端到端示例，并解释简化训练的过程（通常是一个时间序列模型，因为它很容易可视化）。在此之后，我将更详细地介绍不同类型的模型，并解释神经网络和语言模型之间的不同之处，这取决于听众的适当程度。

人工智能伦理和外部性

我还想要涵盖与 AI 相关的伦理问题。我认为在更高年级的小学或中学以及以上的孩子完全有能力理解 AI 可能带来的环境和社会影响。在我看来，现在的许多孩子在理解全球气候变化和环境危机方面似乎相当先进，因此讨论运行 LLMs 所需的电力、水和稀有矿物的使用量并不无理。只是重要的是要使你的解释与听众的生活经验相关联，并适合他们的年龄。正如我之前提到的，使用与听众生活经验相关的例子，并将它们与听众的生活经验联系起来。

这里有一个从孩子体验到 AI 对环境影响的事例。

“所以你们都有用于作业的 chromebook，对吧？你们有没有发现，当你们长时间坐在笔记本电脑上工作，背部会变暖？也许如果你同时打开很多文件，或者看很多视频？所以这种加热与当大型计算机，也就是服务器在训练或使用大型语言模型（LLM）时发生的情况是一样的，比如当你访问 chatGPT 的网站时。

维持 chatGPT 运行的数据中心充满了同时运行的服务器，它们都变得非常热，这对机器来说可不是什么好事。所以，有时这些数据中心会使用冷却水加上一些化学物质，通过管道直接流过所有服务器，这些可以帮助冷却机器并保持它们运行。然而，这也意味着大量的水被使用，混合了化学物质，并且在通过这些系统时被加热，这意味着这些水可能无法供人们用于其他用途，比如农业或饮用水。

有时，这些数据中心使用大型空调，这需要消耗大量的电力来运行，这意味着可能没有足够的电力供我们的家庭或企业使用。电力有时是通过在发电厂燃烧煤炭来制造的，这会将废气排放到空气中，并增加污染。“

这将孩子的体验带入对话中，并给他们提供了一种具体的方式来与这个概念建立联系。你可以围绕版权伦理和内容盗用进行类似的讨论，使用孩子们熟悉的艺术家和创作者，而不必深入研究知识产权法。深度伪造，无论是性方面的还是其他方面的，也是许多孩子都知道的话题，重要的是孩子们在使用 AI 时意识到这些风险对个人和社区的影响。

当孩子们开始理解 AI 的不道德应用或它创造的全球挑战，并意识到这些事物有多么强大时，可能会感到害怕，尤其是对年幼的孩子来说。我曾遇到过孩子问“如果有人教 AI 做坏事，我们怎么去修复它？”这样的问题。我希望我能有更好的答案，因为我实际上只能大致说“AI 有时已经拥有做坏事的信息，但也有很多人在努力使 AI 更安全，防止它分享任何坏信息或如何做坏事的指令。”

解构“真相”这一概念

人工智能拟人化问题对成人和孩子都适用——我们倾向于信任一个友好、自信的声音在告诉我们事情。这个问题的大部分原因在于，经常告诉我们事情的 LLM 声音是友好、自信且错误的。媒体素养的概念在教育学中已经是一个重要的主题多年了，将这一概念扩展到 LLM 上是一种自然的进步expanding this to LLMs is a natural progression。就像学生（和成人）需要学会成为他人或公司生成信息的批判性消费者一样，我们也需要成为批判性和深思熟虑的计算机生成内容的消费者。

我认为这也与理解技术有关。当我解释说LLM 的工作是学习和复制人类语言，在最低层次上是通过根据之前的内容选择可能的下一个词来实现的，当我继续说 LLM 无法理解“真理”的概念时，这是有意义的。真理不是训练过程的一部分，同时真理对人类来说也是一个很难理解的概念。LLM 可能会频繁地得到事实正确，但盲点和潜在的错误会不时地因为概率的本质而出现。因此，使用它的孩子们需要非常清醒地意识到这个工具的不可靠性。

然而，这个课程的实际价值并不仅限于 AI 的使用，因为我们所教授的是如何处理不确定性、模糊性和错误。正如Bearman 和 Ajjawi (2023) 指出的，“AI 介导世界的教育学涉及学习如何与不透明、不完整和模糊的情况合作，这反映了人与人、技术与技术之间的复杂关系。”我真的很喜欢这种框架，因为它回到了我经常思考的事情上——LLM 是由人类创造的，并反映了人类生成内容的意义。当孩子们学习模型是如何产生的，模型是可能出错的，以及它们的输出源自人类生成输入时，他们正在熟悉我们社会中技术工作的模糊性质。（事实上，我强烈推荐全文给任何考虑如何教孩子关于 AI 的人。）

关于图像和视频的补充说明

正如我之前所写，在线上大量出现的深度伪造/“AI 垃圾”视频和图像内容引发了许多难题。这也是我认为向孩子们提供信息很重要的另一个领域，因为通过令人信服的视觉内容很容易吸收错误信息或谎言。对于大多数孩子来说，这种内容也只离实际创作过程一步之遥，因为大量这种材料在社交媒体上广泛传播，并且不太可能被标记。与孩子们谈论哪些明显的迹象有助于检测人工智能生成的材料，以及像“如果它好得令人难以置信，那它可能就是假的”和“在这样帖子中听到的事情要双重检查”这样的通用批判性媒体素养技能，都有所帮助。

作弊

无论我们解释多少关于 LLM 可能出错伦理问题和风险，这些 AI 工具都非常有用且诱人，因此一些孩子会求助于使用它们来完成家庭作业和在学校作弊是可以理解的。我想说，我们需要与他们进行理性对话，并解释学习完成作业的技能才是重点，如果他们不学习这些技能，他们就会错过未来成绩和未来生活中需要的技能……但我们都知道，孩子们很少是那么理性的。他们的头脑仍在发育，有时这种事情甚至对成年人来说也很难进行理性思考。

你可能采取两种基本方法：要么找到让学校作业变得更难或无法作弊的方法，要么在假设孩子们未来会拥有它的情况下，将人工智能融入课堂。现在，在课堂环境下的监控作业可以给孩子们一个机会，在没有数字媒介介入的情况下学习他们需要的一些技能。然而，正如我之前提到的，媒体素养现在真的必须包括大型语言模型（LLMs），我认为由有知识的教师监督使用 LLMs 可以具有很大的教学价值。此外，要“AI 化”直接教师监督之外的作业几乎是不可能的，我们应该认识到这一点。然而，我不想让它听起来很容易——请参阅下文进一步阅读部分，其中包含许多关于在课堂上教授 AI 素养的广泛挑战的学术文章。教师们面临着一个非常艰巨的任务，不仅要跟上技术发展并使他们的教学法适应时代，还要尝试给学生提供他们需要的信息，以便负责任地使用人工智能。

从性教育案例中学习

最后，问题是我们在一个包含人工智能的世界中，应该建议孩子们做什么，不应该做什么。我很少是禁止或禁止思想的倡导者，我认为基于科学的、适合年龄的综合性性教育提供了一个很好的例子。如果孩子们没有得到关于他们身体和性方面的准确信息，他们就没有做出明智、负责任的决定所必需的知识。我们是在禁欲性教育导致 2000 年代初青少年怀孕率激增时了解到这一点的。联邦资助的性教育项目与青少年怀孕率的下降有关。当孩子们在困难情况下做出艰难决定时，成年人不会在场执行命令，因此我们需要确保孩子们拥有做出这些决定所需的信息，这包括道德指导，也包括事实信息。

树立责任感

最后，我认为还有一点很重要，那就是成年人也应该在人工智能方面树立负责任的行为榜样。如果教师、父母以及孩子们生活中的其他成年人对人工智能缺乏批判性素养，那么他们也无法教会孩子们成为批判性和深思熟虑的技术消费者。

一篇关于教师如何使用人工智能的近期《纽约时报》报道让我有些沮丧。文章并没有很好地理解人工智能，将其与一些基本统计学混淆（一位分析学生数据以帮助个性化教学的教师既不是人工智能，也不是新事物或问题），但它确实开启了一场关于孩子们生活中的成年人如何使用人工智能工具的对话，并提到这些成年人需要以身作则，透明且批判性地使用它。（它也简要地触及了盈利行业将人工智能推入课堂的问题，这似乎是一个需要更多时间解决的问题——也许我会在将来写关于这个话题的文章。）

为了反驳这篇文章中的一个观点，只要他们监控并验证输出结果，我不会抱怨教师使用大型语言模型（LLM）来初步批改书面材料。如果评分标准是语法、拼写和写作技巧，基于其训练方式，LLM 可能适合。我不希望在没有人类至少快速查看的情况下盲目信任 LLM，但人类语言正是它被设计来理解的。认为“学生必须写出来，所以老师必须批改”的想法是愚蠢的，因为这项练习的目的是让学生学习。教师已经知道写作技巧，这不是一个旨在强迫教师学习只能通过人工批改才能实现的东西的项目。我认为《纽约时报》知道这一点，而且这种框架主要是为了吸引点击量，但清楚地说明这一点是值得的。

这个观点再次回到了我之前关于理解技术的部分。如果你自信地理解了训练过程的样子，那么你可以决定这个过程是否会产生一个能够管理任务的工具。但自动评分至少已经在学校中存在了几十年——任何填写过扫描卷的人都知道这一点。

这种技术的发展正在迫使我们的教育体系进行一些适应，但现在我们无法把那个精灵放回瓶子里。确实有一些方式人工智能可以对教育产生积极影响（经常引用的例子是个性化以及节省教师时间，这些时间可以用于直接为学生提供服务），但就像大多数事情一样，我倡导一种现实的观点。正如我相信大多数教育工作者都非常清楚的那样，教育不能像 LLM 进入我们的生活之前那样继续进行。