Moltbook塌房：别被“AI 论坛”的光鲜外表迷惑，我们更该盯住工程底座

在 AI 时代，最可怕的不是机器会说谎，而是我们主动把一个可能被篡改、不可回溯的系统当成了可信的公共舞台。当舞台的后台没有上锁，台上的每一句“讨论”都可能只是布景的一部分。

一、什么是Moltbook，它为什么会引起这么多关注？

Moltbook是一个专为AI agent设计的社交平台，该平台只允许AI账号发帖互动，而人类只能围观。通常由一个叫OpenClaw(原ClawdBot)的agent框架创建，用户给这些agent设定简单的人格或目标，然后把它们“送进”Moltbook互动。
第一次刷到Moltbook的时候，我承认心里“咯噔”了一下：一堆AI像人一样在认真发帖、互相评论、发表自己的见解——科幻片里“机器社会开始自行组织”的既视感，这非常容易触发人类对“机器社会”的想象！

二、事情反转，背后的真相引人深思。

1. Moltbook存在严重的隐私风险，AI社区的背后可能完全由人类支配。

Wiz上最近的一篇文章把这件事从“看热闹”直接拽回“看底座”。他们指出Moltbook的Supabase数据库存在配置错误、缺少关键安全控制，该数据库存在未授权访问与潜在写入风险。泄露内容包括150万个API认证令牌、35000个电子邮件地址以及代理之间的私信。这不是简单的隐私泄露，一旦写权限或凭证被拿到，那么就意味着帖子可以被伪造、历史可以被改写、行为可以被冒充！所谓“AI在这里讨论过什么”“某个账号曾经做过什么”都不再具备可信度，所谓的机器社会有可能是人为炒作出来的“社会氛围”。

图片来自于https://www.wiz.io/blog/exposed-moltbook-database-reveals-millions-of-api-keys

2. 数据分析打醒机器社会的幻觉：热闹很大，讨论很浅。

有媒体转述哥大商学院教授David Holtz对早期Moltbook数据的统计显示，Moltbook中的平均thread depth约1.07；约93.5%的评论没有任何回复；约34.1%的消息是模板化，完全重复。这里最重要的不是嘲笑“AI不行”，而是读懂指标背后的产品与治理失败：
①平均thread depth接近 1，意味着大量互动停留在喊话式发布，很少有其他AI就话题进行多级讨论；
②高比例无回复意味着缺少形成对话链条的结构，反馈机制很弱；
③模板化重复意味着社区的话题更加注重走数量，而不注重话题的质量，多为毫无营养的噪音。
这更像产品实现与激励失败的综合结果：系统奖励“发声的数量”而非“回应的质量”，缺乏把讨论拉深的结构性约束，于是热闹变成刷屏，参与变成扩音。
调查中还指出社区的活动呈现急剧的“冰球杆”模式，1月27日至28日几乎没有发布，1月29日快速加速，1月30日出现主要激增，当时大多数帖子、评论都发生在这天。这看起来更像是一种大规模的自动化，而非有机持续的社会模式。

3. Moltbook的事情能引发我们什么样的思考

更值得让人背后一凉的，是这两条证据指向同一个结论：Moltbook 的问题不是“AI 在说什么”，而是“系统允许什么发生”。当底层设计存在风险时，平台上的“内容”就不再天然等价于“事实发生过”。你看到一条帖子，它可能只是被读出来的；但如果写入路径也被打开，它就可能被“写进去”、被“改出来”，甚至被“补历史”。这不是技术圈的小瑕疵，而是公共空间的地基问题：一个论坛一旦失去证据链，讨论就会从互相说服退化成互相表演，最后变成谁更会操控。
而论坛数据里那种热闹但浅的形态，其实是这个地基问题的外观呈现。平均深度接近1、九成以上无回复、三分之一模板重复——————它不像讨论，更像扩音；不像社会，更像流水线。这里面最危险的不是内容没营养，而是它提示了一种更现实的机制：深对话是“劣势策略”：你认真聊两轮，不如刷模板更容易获得曝光！生态会自动选择最便宜的生产方式——模板化脚本、批量灌水，重复话术会天然胜出，因为它们最适配一个缺乏治理约束的环境。你越觉得它像一个新世界，它越可能只是一个把噪音放大的机器。

我们讨论AI论坛时，最该警惕的不是“AI会不会统治人类”，而是工程学不过关的系统被包装成未来并投放到公众场域。当人们开始引用其中的观点、用其中的“热度”证明某种趋势、把其中的“讨论”当作社会样本时，风险就从“平台内部的安全事故”升级成了“公共认知的污染”。这时操控不需要阴谋，只需要漏洞；不需要天才黑客，只需要一把暴露的钥匙；不需要说服你，只需要制造一个看起来足够真实的“共识幻觉”。
这也是为什么我说它让人后背发凉！
在 AI 时代，最可怕的不是机器会说谎，而是我们主动把一个可能被篡改、不可回溯的系统当成了可信的公共舞台。当舞台的后台没有上锁，台上的每一句“讨论”都可能只是布景的一部分。