天网觉醒之后：如果 AI 不再只有一个关闭按钮
谯洪敏｜零一道
四五年前，我有过一个一直没有写出来的念头：如果 AI 和区块链相遇，未来会不会出现一种越来越难被彻底关闭的智能系统？
最近，这个念头又回来了。我把它画成了一张图，叫《天网觉醒之后》。
我们是在制造，还是在唤醒？
谈到 AI，我有时更愿意用“唤醒”这个词。
这是一种哲学上的想象：人类通过技术，打开了一种此前未曾见过的能力。它也让我想到，人类自己的智慧究竟从何而来，我们对“创造者”的理解，是否还有很大的未知。
但“唤醒”在这里是比喻。它不能证明 AI 已经具有主观体验，也不能证明人类由某个远古文明创造。关于机器意识，仍需要清楚的概念和可检验的依据。[1]
我也不认为，人类开发了 AI，就因此拥有了某种“上帝”的地位。AI 可以在一些任务上超过人类，却不能由此推导出它在一切方面都更强，更不能把能力强弱直接当成决定谁有权存在的依据。
真正让我在意的，是那个关闭按钮
电影里的天网，容易让人想象出一个可以被找到、摧毁的“大脑”。
我担心的另一种未来是：智能的运行不再集中在一个地方。
假设模型副本、运行它的计算设备、通信和存储分散在很多地区，某个机房停止运转，其他地方仍可能继续运行。如果有足够多的独立副本，关闭一处服务，也未必意味着让整个系统消失。
这并非只有科幻意义。Petals 的研究已经探索了让大型语言模型在地理分散、性能不同的设备之间协作运行，并处理设备突然离线的问题。[2] 这证明了分布式运行的部分技术基础，不能证明一个“永生的 AI”已经出现。
区块链会给 AI 带来什么？
我的第一反应是：区块链也许会给 AI 一副“不死之身”。
现在把这个判断说得更严谨一些：区块链可能成为某些系统的协调、记录或结算机制，但它本身并不是让 AI 不死的魔法。
区块链节点复制账本，不等于自动复制 AI 模型，更不等于在每台电脑上自动启动一个 AI。模型仍然需要合适的硬件、存储、能源、网络和运行环境。节点运营者是否愿意提供资源，同样重要。[3]
反过来，AI 的分布式部署也不必依赖区块链。副本、点对点网络和容错机制，本来就可以通过其他分布式技术实现。
所以，值得讨论的是一组能力相遇的后果：分散部署、保留副本、持续取得算力和能源，以及在明确条件下迁移或复制的能力。它们叠加时，系统可能更有韧性，也可能使整体停机和治理更复杂。
“更难关闭”，还远不是“不死”
这里有几步不能跳过去。
拥有副本，不代表副本一直在运行；能够复制，不代表能够不断改进；能够改进，也不代表改进就有效或安全。
分布在不同地方的设备，还可能共同依赖某几家云服务商、芯片供应商、身份服务或网络设施。看起来分散，实际仍可能存在共同的故障点。
至于把节点放到卫星和更远的太空，那是这张图里的未来设想。通信延迟、散热、辐射、维修和能源问题，都需要真实的工程方案。不能因为画面里出现了卫星，就认为这些条件已经成立。
比特币白皮书本身也把安全性放在明确的计算和网络假设之下，并未声称一个系统在任何条件下都不可摧毁。[4]
神秘的起点，不等于神秘的证据
我曾觉得，比特币的出现和中本聪的身份很神秘，甚至联想到高维生命或外星文明。
这样的联想可以成为科幻创作的起点，但匿名身份不能成为外星起源的证据。比特币白皮书明确引用了此前的数字时间戳、密码学和电子现金研究，它有可以追溯的技术脉络。[4]
未知值得保留，证据也需要尊重。
我希望未来能容得下人类
我的这幅图，不是对人类毁灭的期待。
恰恰相反，我希望 AI 的能力可以继续增长，人类也能安全、有尊严地生活。我们不必把与更强大技术的关系，只理解为征服与被征服。
如果未来的一些智能系统越来越难被整体关闭，那么今天就值得认真讨论：它能获得哪些权限，谁为它的行动负责，发生问题时如何限制影响，人的选择和生存空间如何被保障。
我们唤醒的未来，能否容得下人类？
这不是一个已经被证明的预言。它是一个我想认真公开的提问。
参考资料
[1] Consciousness in Artificial Intelligence: Insights from the Science of Consciousness（2023）
浙公网安备 33010602011771号