谷歌对-Gemini-模型环境影响披露是进步还是绿色洗牌-

谷歌对 Gemini 模型环境影响披露是进步还是绿色洗牌？

towardsdatascience.com/is-googles-reveal-of-geminis-impact-progress-or-greenwashing/

根据谷歌的一篇技术论文以及他们网站上的一篇博客文章，估计“中位 Gemini Apps 文本提示”的能源消耗为 0.24 瓦时（Wh）。水的消耗量为 0.26 毫升，根据博客文章所述，大约是五滴水，碳足迹为 0.03 克 CO2e。值得注意的是，这个估计不包括图像或视频提示。

0.24 Wh 的量级是多少？如果你每天提供 30 个中位类似的提示，全年下来，你将消耗 2.62 千瓦时（KWh）的电力。这相当于运行洗碗机 3-5 次，具体取决于其能源标签。

谷歌对其 Gemini 模型的环境影响披露引发了对 AI 环境影响的又一轮辩论，以及如何衡量它。

表面上，这些数字听起来令人放心地小，但当你仔细观察时，故事变得更加复杂。让我们深入探讨。

测量范围

让我们看看谷歌对中位 Gemini 文本提示估计中包括什么和省略了什么。

包括

他们的评估范围是“在谷歌运营控制下的物质能源来源——即实施行为改变的能力。具体来说，他们将大型语言模型（LLM）服务的能源消耗分解为：

• AI 加速器能源（TPU——谷歌对 GPU 的对应物），包括同一 AI 计算机中加速器之间的网络。这些是在服务期间进行的直接测量。

• 活跃的 CPU 和 DRAM 能源——尽管 AI 加速器（即 GPU 或 TPU）在文献中受到最多的关注，但 CPU 和内存也消耗了相当数量的能源。

• 等待处理峰值流量的闲置机器的能源消耗

• 超额能源，即支持数据中心的基础设施——包括冷却系统、电力转换和数据中心的其它开销。这通过 PUE 指标来考虑——这是一个乘以测量能源消耗的系数，他们假设 PUE 为 1.09。

• 谷歌不仅测量了用户看到的响应生成 LLM 的能源消耗，还包括评分、排名、分类等支持模型的能源消耗。

省略

这里不包括的内容：

• 在提示击中 AI 计算机之前的所有网络，即外部网络和将查询路由到 AI 计算机的内部网络。

• 最终用户设备，即我们的手机、笔记本电脑等

• 模型训练和数据存储

进步还是绿色洗牌？

如上所述，我概述了论文中的客观事实。现在，让我们看看不同人对这些数据的看法。

进展

我们可以赞扬谷歌的出版物，因为：

• 谷歌的论文因其背后的细节而突出。他们包括了 CPU 和 DRAM，这不幸地是不常见的。例如，Meta 只测量 GPU 能耗。

• 谷歌使用的是中位能耗而不是平均能耗。中位数不受非常长或非常短的提示等异常值的影响，因此可以说它告诉我们“典型”的提示消耗了多少。

• 有总比没有好。这比草稿纸上的测量方法（罪有应得）迈出了很大一步，也许他们正在为未来的更详细研究铺路。

• 包括了硬件制造成本和报废成本

绿色洗白

我们可以批评谷歌的论文，因为：

• 它缺少累积数据——理想情况下，我们想知道他们 LLM 服务的总影响以及它们占谷歌总足迹的百分比。

• 作者没有定义中位提示的样子，例如它有多长，以及它引发的响应有多长

• 他们使用的是中位能耗而不是平均能耗。是的，你没看错。这可以被视为正面或负面的。中位数“隐藏”了高复杂度用例的影响，例如非常复杂的推理任务或非常长文本的摘要。

• 碳排放量使用基于市场的做法（依赖于能源采购证书）来报告，而不是基于位置的电网数据，后者显示了他们使用的能源的实际碳排放。如果他们使用基于位置的方法，碳足迹将是每中位提示 0.09 gCO2e，而不是 0.03 gCO2e。

• 没有包括 LLM 的训练成本。关于训练成本在总成本中作用的辩论正在进行中。它在总数中占小部分还是大部分？我们还没有完整的画面（目前还没有）。但是，我们知道对于某些模型，需要数亿个提示才能达到成本平衡，这表明模型训练可能是总能源成本中的一个重要因素。

• 他们没有披露他们的数据，所以我们无法双重检查他们的结果

• 方法并不完全清楚。例如，不清楚他们是怎样得出每中位提示 0.010 gCO2e 的 1 和 3 范围排放的。

• 谷歌的水消耗估计只考虑了现场水消耗，而没有考虑总水消耗（即不包括如电力生成等水消耗来源），这与标准做法相反。相反。

• 他们排除了外部网络排放，然而，Mistral AI 的大型 2 模型的生命周期评估显示，标记的网络流量只占 LLM 推理总环境成本的极小部分（<1%）。终端用户设备也是如此（3%）。

谷歌 Gemini 对比 OpenAI ChatGPT 对比 Mistral

谷歌的出版物遵循 Mistral AI 和 OpenAI 的披露——尽管详细程度不同。

OpenAI 首席执行官 Sam Altman 最近在一篇 博客文章 中写道：“平均查询使用大约 0.34 瓦时，大约相当于烤箱在一秒多一点的时间内使用的电量，或者高效灯泡在几分钟内使用的电量。它还使用大约 0.000085 加仑的水；大约是十五分之一茶匙。”你可以在这里阅读我对这一声明的深入分析 这里。

将 Gemini 每个提示的 0.24 瓦时与 ChatGPT 的 0.34 瓦时进行比较很有诱惑力，但这两个数字并不能直接比较。Gemini 的数字是 中位数，而 ChatGPT 的数字是 平均值（算术平均数，我敢打赌）。即使它们都是中位数或平均值，我们也不能必然得出谷歌比 OpenAI 更节能的结论，因为我们不知道所测量的提示的具体内容。可能 OpenAI 的用户提出的问题需要更多的推理，或者简单地提出更长的问题，或者引发更长的回答。

根据 Mistral AI 的生命周期评估，他们大型 2 模型的 400 个标记响应会排放 1.14 克 CO₂e，并使用 45 毫升水。

结论

那么，谷歌的披露是绿色洗白还是真正的进步？我希望我已经为你提供了对这个问题的思考。在我看来，这是进步，因为它扩大了衡量范围，并提供了来自真实基础设施的数据。但这也存在不足，因为遗漏的部分和包含的部分一样重要。另一个需要记住的事情是，这些数字听起来容易消化，但它们并没有告诉我们多少关于系统影响的信息。然而，我个人却乐观地认为，我们目前正在见证来自大科技公司的 AI 影响披露浪潮，如果 Anthropic 不是下一个，我会感到惊讶。

---

就到这里！希望你喜欢这个故事。告诉我你的想法！

关注我了解更多关于 AI 和可持续性的内容，并且请随意在 LinkedIn 上关注我。