2025-年中-AI-反思
2025 年中 AI 反思
对于 2025 年的 AI 发展，期望很高，我在 2024 年末跟进了一些顶级预测👇🏼：
-
(1) “未来将是代理的”
-
(2) “通过 AI，安全性将变得更加严格和困难”
-
(3) “这将是有利可图的 AI 之年”
反思去年的 AI 预言和我在 2024 年末获得的新见解，是时候对迄今为止的 AI 进展进行简要回顾了。
预言家们（某种方式）是正确的。
虽然承认 AI 代理在安全性和可靠性等方面仍然存在（大）缺点是公平的，但同样有理由说，这个“小”的数字实体（LLMs），除了其他因素外，还依赖于“人们的士气”，简而言之，是强大的*。
强大，因为它主动并且可以作为人类的粘合剂，独立产生以前需要纯粹人类参与的工作输出。此外，它可以是无形的，并在后台安静地完成工作。
我不会深入探讨如何实现安静和无形的特性，但提到通过访问工具（通过MCP）和其他代理（通过A2A 协议），然后利用工作流程和人类的“命令”来触发，代理将改变每个白领工作中的标准化任务交付流程是很好的。
这意味着我们将经历虚拟工作力的崛起和“自动驾驶”业务流程的出现。它何时到来，这又是另一个还没有达成明确共识的话题。
然而，未来已经开始呈现出代理性和通过人工智能更紧密的安全措施的趋势。例如，OpenAI 的Operator，GitHub 的Copilot 编码代理，Google 的Co-scientist和Project Astra，或者微软的Entra Agent ID和Security Copilot Agents，只是这一趋势的几个例子。
值得注意的是，代理性人工智能不仅是大型科技公司的焦点。根据我的第一手经验，我可以这么说，它也出现在那些已经开始在商业战略中定位人工智能的公司的前景中。在我看来，基于我所拥有的特定市场知识，我相信德勤的预言在今年年底不会太远：
“预计到 2025 年，25%使用通用人工智能的企业将部署人工智能代理，到 2027 年将增长到 50%。”
当然，代理的部署并不一定意味着它们的产业化，而是涵盖了试点项目和概念验证的发展。因此，Gartner 预测到 2027 年底将有超过40%的代理性人工智能项目被取消，即 2027 年。如果我们合理地认为生成人工智能的每一次发展都可以被标记为研究项目，那么这个失败率是可解释的。
此外，考虑到人工智能用例的新颖性，目前的盈利性本身也难以辩论。我认为，当样本量不足，最终数字并不完全透明时，过早依赖报告来了解利润率可以增加多少还为时尚早。
另一方面，已经报道的是人工智能对入门级工作的影响。因此，经常出现的一个真正的问题是…
职业末日会发生吗？
自从我阅读了AI-2027情景之后，我对工作场所未来的恐惧种子在我心中生长得更快了一些。
对于那些错过了这个情景的人来说，这是一个预测（仅此而已，所以请谨慎对待 cum grano salis）*，它预测从现在的 AI 到改变世界的超级智能将在 2027 年实现快速进步。
这个故事由美国和中国之间的高风险技术竞赛推动，通过预测下一个 AI 的发展来探索社会和地缘政治后果：
-
在2025 年中，世界遇到了Agent-0，这是第一代有趣但存在缺陷的 AI 助手，需要持续的人类监督。
-
不到一年后，在2026 年初，Agent-1作为一个商业上成功的模型出现，擅长编码，但需要人类管理其工作流程和处理任何需要长期规划的任务。
-
真正的加速开始于2027 年 1 月，当时内部模型Agent-2在自动化 AI 研究方面变得强大，其创造者将代理隐藏起来。在这个时候，主要的人类优势已经被简化为“研究品味”，或者说对研究应该走向何方的直觉。
-
仅仅两个月后，在2027 年 3 月，随着Agent-3的出现，这个系统实现了超人类编码能力，可以自动化大量工程任务，让人类成为高级经理。
-
旅程在2027 年 10 月达到高潮，以Agent-4，一个超级人类 AI 研究者结束，他如此先进以至于人类贡献成为瓶颈；它工作得如此之快，以至于对 AI 来说一周相当于人类的一年科学进步，让它的创造者连理解正在做出的发现都感到力不从心。
故事还有更多内容，所以我建议你阅读它。
看看我们今天在哪里，2025 年中期，Agent-0和Agent-1的痕迹已经存在，但它们的实现仍然高度依赖于任务和问题背景的类型。
好吧，我们可以嘲笑 Anthropic 的Claudius代理因为关于它是否是一个穿着蓝色西装和红色领带的真人的认同危机，但这样的故事和类似的轶事并不能改变这样一个事实：今天的 AI 能力已经部分自动化了曾经由初级员工处理的任务，从而抑制了这些角色的需求。
这项担忧被一篇NYT 文章所强调，该文章报道说，最近几个月美国大学毕业生失业率飙升至异常高的 5.8%。
在这种负面趋势下，商业中可能发生的另一个负面变化是对导师和辅导计划的投资不足。这将有利于那些喜欢保留尚未标准化且容易被 LLMs 自动化的知识的人。
在这种情况下令人恐惧的是，如果企业失去了导师文化，年轻人可能会面临什么后果。如果没有人向他们表示理解，也不给他们机会在低风险任务中失败（因为 AI 代理将处理这些任务），他们是否需要通过解决高风险任务来学习决策，而这些任务又没有适当的金钱补偿？
话虽如此，我感受到了你们这些来自 Z 世代的朋友们现在所承受的压力。因为我们都知道，如果 AI“在接下来的一到五年内针对你们”，它不会就此停止。
我们都将受到影响，而唯一可能“拯救我们”的事情是政府监管和立法，甚至比欧盟 AI 法案还要严格。
无论关于AI 将创造新工作（理想情况下不是“罪人吞噬者”的那种）的讨论，还是关于我们将拥有普遍基本收入的讨论，我都希望如果我们得到保护并发挥我们的作用，即获得一套必要的技能和教育，以适应（AI+人类）混合市场，那么末日般的情景不会发生。
《纽约时报》向我询问 AI 将创造的新工作。
我建议“罪人吞噬者。” 图片链接
— Ethan Mollick (@emollick) 2025 年 6 月 17 日
考虑到这一点，我将结束今天的文章…
感谢阅读！
如果您觉得这篇文章有价值，请随意与您的网络分享。 👏
这篇文章最初发表在Medium 的 AI 进展出版物上。
应得的赞誉：
本帖中“末日般的沉思”受到了以下来源的启发：
-
Cassie Kozyrkov, “如果有人能做，AI 会做得更好”
-
Wired YouTube 视频片段，“在人工智能时代的工作未来：Demis Hassabis 的观点”
浙公网安备 33010602011771号