生成式人工智能与公共机构

生成式人工智能与公共机构

原文：towardsdatascience.com/generative-ai-and-civic-institutions/

不同领域，不同目标

近期事件让我开始思考人工智能与我们的公共机构之间的关系——比如政府、教育、公共图书馆等等。我们常常忘记，公共和政府机构与私营公司和盈利企业本质上是深不相同。它们的存在是为了让人们过上最好的生活，保护人们的权利，使机会触手可及，即使（尤其是）这项工作没有立即的货币回报。公共图书馆是我经常思考的一个例子，因为我来自一个热爱并捍卫图书馆的家庭——他们的目标是向整个社区提供书籍、文化材料、社会支持、社区参与和阅读之爱，无论支付能力如何。

在私营部门，效率是一个优化目标，因为任何用于向客户提供产品或服务的美元都是从利润中扣除的。目标（简化来说）是以尽可能少的成本运营您的业务，以最大化的利润形式回报给您或股东。另一方面，在公共领域，效率只有在它能提高效率的程度上才有意义——即更多的服务能够惠及更多的公众。

在公共领域，效率只有在它能提高效率的程度上才有意义——即更多的服务能够惠及更多的公众。

因此，如果您在图书馆，您可以使用人工智能聊天机器人在线回答读者的问题，而不是指派图书管理员来做这件事，那么这位图书管理员就可以帮助现场读者，开发教育课程，支持社区服务，或者许多其他事情。这是一种普遍的效率，可以提高图书馆作为一个机构的效率。从卡片目录过渡到数字目录是这种效率转化为效率的典型例子，因为您可以从沙发上使用搜索关键词找到您想要的书籍是否在库存中，而不是像我小时候那样翻阅几百张卡片。

然而，我们可能会过于专注于效率，而忽视了最终目标的有效性。例如，如果您的在线图书馆员聊天经常被在家做作业的学生使用以获得帮助，用 AI 聊天机器人取代他们可能会是一场灾难——如果一个孩子从这样的机器人那里获得了错误信息并在学校得到低分，他可能会长期或永远不再光顾图书馆或寻求那里的帮助。因此，只有在经过深思熟虑并有目的性地部署生成式 AI 解决方案时，才重要，而不仅仅是因为媒体告诉我们“AI 很酷”。（细心的读者会知道，这基本上是我过去关于在商业中部署 AI 时所说的类似建议。(Eagle-eyed readers will know that this is basically similar advice to what I’ve said in the past about deploying AI in businesses as well.))

结果，我们原本认为的提高效率带来的净更高效率实际上可能会减少终身读者和图书馆访客的数量，这意味着图书馆的有效性会降低。有时，试图提高效率所带来的意外效果可能会削弱我们提供普遍服务的能力。也就是说，在使每一美元尽可能发挥最大作用和为机构的所有成员提供可靠、全面的服务之间可能存在权衡。

有时，试图提高效率所带来的意外效果可能会削弱我们提供普遍服务的能力。

效率提升的 AI

值得我们更深入地研究这个概念——AI 作为效率的驱动者。广义而言，我们经常听到的理论是，将生成式 AI 更多地融入我们的工作和组织中可以提高生产力。用最基础的经济学 101 水平来表述：使用 AI，在相同的时间内，更少的人可以完成更多的工作，对吧？

让我们挑战这个想法的一些方面。AI 对于完成某些任务是有用的，但遗憾的是，对于其他任务则不足够。（正如我们假想的学校学生图书馆读者所学的，LLM 不是一个可靠的事实来源，不应将其视为一个。）因此，AI 通过减少人员数量来增加工作量的能力（效率）受到我们需要完成的工作类型的限制。

如果我们的聊天界面仅用于回答像“纪念日图书馆的开放时间是什么？”这样的简单问题，我们可以连接一个 RAG（检索增强生成）系统和一个 LLM（大型语言模型），使其变得非常有用。但是，在我们可以提供给 LLM 的信息的有限范围内，我们可能需要设置护栏，并让模型拒绝尝试回答，以避免向读者提供错误信息。

那么，让我们来分析一下。我们有一个做得很有限的聊天机器人，但它做得很好。现在负责聊天机器人的图书管理员可能需要的工作量有所减少，但仍然有一些问题需要他们的帮助。我们有几种选择：让图书管理员每周减少几个小时的时间负责聊天机器人，希望他们在工作时会有问题？告诉人们如果聊天机器人拒绝回答他们，就打电话到参考咨询台或发送电子邮件？希望人们亲自到图书馆来提问？

我怀疑最有可能的选项实际上是“赞助商将在别处寻找答案，也许是从另一个 LLM（大型语言模型）如 ChatGPT、Claude 或 Gemini 那里。”又一次，我们陷入了图书馆失去赞助商的情况，因为他们的服务没有满足赞助商的需求。而且，赞助商可能在别处得到了另一个错误的答案，我们无从得知。

我只是举这个冗长的例子来表明，在公民环境中，效率和效果可能比我们最初想象的要复杂得多。当然，这并不是说人工智能对帮助公民组织扩展其服务公众的能力没有用！但就像任何生成式人工智能的应用一样，我们需要非常小心地思考我们在做什么，我们的目标是什么，以及这两个目标是否相容。

劳动转换

现在，这是一个非常简单的例子，最终我们可以将整个百科全书连接到那个聊天机器人 RAG 或其他东西上，当然，并尝试让它工作。事实上，我认为我们可以也应该继续开发更多将 AI 模型串联起来的方法，以扩大它们可以做的有价值工作的范围，包括为不同的责任制作不同的特定模型。然而，这种发展本身也是工作。这不仅仅是“人们做工作”或“模型做工作”的问题，而是“人们做工作构建 AI”或“人们做工作为人们提供服务”。需要计算确定何时直接做针对性的工作更有效率，何时人工智能是正确的选择。

在进行人工智能工作方面有一个优势，那就是它有望使任务可重复，因此将提高效率，但让我们记住，人工智能工程与参考馆员的职责大相径庭。我们在这里并不是在交换相同的员工、任务或技能集，而且在我们当代经济中，人工智能工程师的时间成本要高得多。所以，如果我们真的想用美元和美分来衡量这种效率，那么在参考台工作以及进行聊天服务所花费的时间将远远低于支付人工智能工程师开发更好的代理人工智能用于特定用例的费用。如果我们给一点时间，我们可以计算出作为参考馆员需要节省多少小时、天数、年数的工作，以使这个聊天机器人值得构建，但通常在转向人工智能解决方案之前，这种计算并没有完成。

我们需要质疑在特定场景中引入生成式人工智能是否一定能带来效率净增长的假设。

外部性

当我们讨论是否在特定情况下实施人工智能解决方案是否值得时，我们应该记住，开发和使用人工智能进行任务并不是在真空中发生的。当我们选择使用生成式人工智能工具时，即使只是一个提示和一个响应，也会在环境和经济上产生一些成本。考虑一下新发布的 GPT-4.5 将输入令牌的价格提高了 30 倍（从每百万个令牌 2.50 美元到每百万个令牌 75 美元），输出令牌的价格提高了 15 倍（从每百万个令牌 10 美元到每百万个令牌 150 美元），这仅仅是从 GPT-4o 以来。而且这还没有考虑到用于冷却数据中心的水消耗（GPT-4 每生成 100 个单词需要 3 瓶水），电力消耗以及用于 GPU 的稀土矿物。许多公民机构都将改善他们周围的世界和社区公民的生活作为宏观层面的目标，对环境的关注必须占据一席之地。那些旨在产生积极影响的组织是否应该更仔细地权衡引入人工智能的可能性？我认为是的。

此外，我并不经常深入探讨这个问题，但我认为我们应该花点时间考虑一些人在整合人工智能时的最终目标——完全减少人员编制。有些人认为，与其让现有的机构资金发挥更大的作用，不如减少这些资金的数量，并将这些资金重新分配到其他地方。这自然会引发许多关于这些资金将流向何方以及它们是否将以其他方式促进社区居民利益的问题，但让我们先放一放。我关心的是可能在这种管理模式下失去工作的人们。

盈利公司经常雇佣和解雇员工，它们的优先事项和目标都集中在利润上，因此这并不特别虚伪或不一致。但如我上面所提到的，公民组织的目标是改善它们存在的社区或社区。在非常实际的意义上，当它们提供的一部分服务是给工人经济机会时，它们就是在推进这一目标。我们生活在一个以工作为主要方式来养活自己和家人的社会中，为社区中的人们提供工作并支持社区的经济福祉是公民机构扮演的角色。

[R]减少人员编制并不是公民组织和政府的无条件好事，而必须与那笔原本支付他们工资的资金的其它用途进行关键性的平衡。

至少这意味着，减少人员编制并不是公民组织和政府的无条件好事，而必须与那笔原本支付他们工资的资金的其它用途进行关键性的平衡。减少人员编制可能是正确的决定，但我们必须坦率地承认，当社区成员失业时，这种影响会连锁反应。他们现在不再能够光顾那些他们原本会用钱支持的商店和服务，税基可能会减少，这会负面影响整个集体。

工人不仅仅是工人；他们也是顾客、消费者，是社区所有方面的参与者。当我们把公民工作者视为仅仅是需要用人工智能取代的金钱陷阱，或者需要最小化劳动力成本时，我们就失去了最初进行这项工作的原因。

结论

我希望这次讨论能让大家对在公共领域应用生成式 AI 的难度有更清晰的认识。这并不像在盈利领域那样简单，因为公共机构的宗旨和核心意义完全不同。我们在私营部门从事机器学习和构建 AI 解决方案的人可能会想，“哦，我可以看到在政府中应用它的方法，”但我们必须认识到并欣赏可能产生的复杂情境影响。

下个月，我将与大家讨论社会科学研究如何融入生成式 AI，这有一些非常吸引人的方面。

如你所闻，Towards Data Science已迁移到一个独立平台，但我将继续在我的 Medium 页面、我的个人网站和新的 TDS 平台上发布我的作品，所以无论你走到哪里，你都能找到我。在 Medium 上订阅我的通讯，如果你希望确保每篇文章都能收到。

在www.stephaniekirmer.com找到更多我的作品。

进一步阅读

“这是一场柠檬”——OpenAI 迄今为止最大的 AI 模型 GPT-4.5 发布，评价褒贬不一：尽管成本提高了 30 倍，但其在能力上仅取得微小的提升，且编码性能不佳。arstechnica.com

使用 GPT-4 生成 100 个单词需要消耗多达 3 瓶水：新研究显示，生成式 AI 消耗大量水资源——生成 100 个单词的文本需要高达 1408 毫升。 www.tomshardware.com

AI 繁荣的环境影响：没有运行它的自然资源，数字世界无法存在。我们使用的技术的成本是多少……towardsdatascience.com

生成式 AI 的经济学：鉴于我们对技术和市场的了解，生成式 AI 的商业模式是什么？towardsdatascience.com