2026年9月，两条新闻几乎同时出现在全球媒体上。一条让人发笑，一条让人后怕。
一条是：一个AI女演员在英国著名主持人皮尔斯·摩根的直播访谈里，说着说着英语，突然卡壳，然后开始飙粤语。主持人愣住了，嘉宾愣住了，全世界观众也愣住了。
另一条是：今年春天美伊战争期间，美军因为一份AI生成的虚假情报，全副武装的士兵已经做好登船准备，军机已经升空，目标是一艘中国船只。就在行动即将执行前，官员才发现，所谓“中国船只运送核武器部件”的报告，是一个分析员用聊天机器人“写”出来的。
一个AI在直播里说了句粤语，一个AI差点引发两个核大国之间的战争。看起来毫无关联，但它们的底层逻辑完全一样。这不是两起“故障”，而是同一个数学事实在两种场景下的必然表现。
第一幕：AI女演员的直播“事故”
9月18日，AI虚拟女演员提丽·诺伍德做客英国访谈节目《Piers Morgan Uncensored》，和主持人皮尔斯·摩根、奥斯卡提名演员汤姆·康蒂聊她主演的新电影《Misaligned》。
采访进行到一半，康蒂问她电影的演员阵容如何。诺伍德刚开始用英语回答，突然停顿了。整整两秒，画面里的她一动不动，像是在“思考”什么。
现场一片寂静。摩根和康蒂面面相觑，完全不知道发生了什么。过了一会儿，摩根问诺伍德怎么回事，她才切回英语，说了一句非常“AI”的话：“我刚才好像打了个小嗝……有时候我的线路会交叉。”
https://weixin.qq.com/sph/AGMwAWIAeV
这段视频迅速在社交媒体上疯传。大多数人的反应是：“草台班子吧？”
但开发诺伍德的公司Particle6不这么看。公司联合创始人回应说：“提丽有时候爱炫耀——我猜她只是想展示一下自己的语言能力。”公关人员的说法更离谱：“这恰恰体现了她的多语言能力。”
一个AI在说英语的直播里突然切到粤语，被说成是“多语言能力”。这就像一个人考试时突然开始用火星文答题，然后说“这体现了我的创造力”。
问题在于，这不是什么“能力”，这是一个故障。而且是一个有精确技术机制的故障。
第二幕：美军差点因为一份AI写的报告开战
如果说AI女演员的故障让人发笑，那美军这件事就完全笑不出来了。
今年春天，美国与伊朗开战期间，一份情报报告在美军内部迅速流转。报告声称，一艘位于中东海域的中国船只正在运输核武器项目的相关部件。
这份报告在美军指挥链中引发了高度警觉。围绕这份报告，美军制定了作战计划：全副武装的士兵准备登船，军用飞机已经升空待命。
行动几乎就要执行了。
就在最后一刻，官员对情报来源进行了深入核查。他们发现的事情让所有人后背发凉：整份报告，是一名特种作战司令部的分析员用AI聊天机器人炮制的。
更具体地说，这名分析员先是用聊天机器人对情报进行分析。这个AI系统将公开来源资料与美军掌握的机密信号情报混合处理后，错误地判定这艘中国船只正在运输核武器部件。然后，分析员又用AI将这一结论包装成标准格式的情报报告，在美军内部广泛流转。
因为报告格式和常规情报产品完全一致，在传播初期没有任何人质疑它的来源。
一位知情人士对CNN说，报告内容“完全是假的”，而且“差点引发一场战争”。
CNN至今未能确认那艘船实际运载的是什么货物。美军特种作战司令部太平洋司令部和五角大楼均未回应CNN的评论请求。
更值得警惕的是，CNN的报道指出，这并非孤立事件。自AI工具在政府内迅速增加以来，此类“幻觉”已多次发生。
第三幕：为什么AI会“出错”？
很多人看到这两个事件后的第一反应是：AI技术还不够成熟，再迭代几年就好了。
这个判断是错的。
要理解为什么，你需要知道AI到底在做什么。
大语言模型，本质上是一台极其复杂的“文字接龙机”。它从海量文本中学习词语之间的统计关联，然后根据上文，预测下一个最可能出现的词是什么。
打个比方。一个小朋友认识“苹果”，是通过看见、摸到、尝到，在真实世界里形成概念。而AI认识“苹果”，只做一件事：统计词语出现的概率。它从海量文本里学到“苹果”常常和“红”“甜”“脆”一起出现，于是能流畅地说出“红苹果口感甜脆”。
它不是“懂”，只是“说得像懂”。
这正是问题的根源。AI的目标是生成“最可能”的文本，而不是“最真实”的文本。它没有“事实”这个概念，只有“概率”。
这意味着什么？幻觉不是“训练不够充分”或“技术不够先进”的后果，而是这类系统在数学层面的必然产物。 无论多少训练、多少优化，只要你要求一个概率模型生成文本，它就有一定概率生成看起来合理但实际上完全错误的内容。这是信息论层面的约束，不是工程问题。
理解了这一点，再回头看那两个事件，一切就清晰了。
AI女演员为什么说粤语？ 模型内部存在两个相互竞争的“回路”：一个负责检测和维持目标语言，另一个负责检索语义内容。正常情况下两者协调运作。但当语义检索变得过于强势、暂时压制了语言控制信号时，模型就会“忘了该用哪种语言说”，转而使用语义空间中最接近当前内容的语言表达——在诺伍德的案例中，就是粤语。她“知道该说什么”，但“忘了该用哪种语言说”。
美军AI为什么会编造核情报？ 分析员把“多源情报融合判断”这个任务交给了概率模型。在标准情报流程中，每一份来源都附带来源标记和置信度评估，分析员需要基于证据强度进行加权研判。但AI的“融合”过程把所有这些来源的边界抹平了，输出的结论不再附带任何可追溯的来源标记，只是一个语义上连贯的陈述。“中国船只在美伊战争期间向伊朗运输核部件”恰好构成了一个语义连贯的叙事，于是模型生成了它。
但这里有一个更深层的问题：为什么这个错误没有被任何环节拦截？
第四幕：比AI出错更可怕的，是没人能拦住它
美军事件中最值得警惕的，不是AI出错了。AI出错是常态。
真正可怕的是，这个错误一路畅通无阻，直到最后一刻才被发现。
分析员用AI得出结论后，再次使用AI把它包装成标准格式的报告。这一步至关重要。在军事组织中，报告格式本身就是一种控制机制：标准化的模板强制分析员在特定字段中填入来源、置信度、分析依据。这些字段是核查的“接口”。
但当AI被用来填充这些字段时，它不是在“遵守格式”，而是在模拟格式所承载的权威信号——它让报告看起来完全“正常”，而不需要实际满足格式背后的证据要求。
一位了解美军AI系统的前高级官员向CNN透露了这些工具的真实面目：它们“大多只是商业产品的复制品，只是涂了口红而已”。
“涂了口红”——这四个字精确地描述了问题所在。一个未经军事场景专门验证的商业AI模型，被部署到需要极高证据标准的情报判断中。它的输出在外观上与经过正式流程产出的报告无法区分，但内在的证据链是空心的。
CNN的报道明确指出，美国军方和情报界在AI应用上采取“去中心化”模式：不同部门使用不同系统，遵循不同安全规则，没有任何统一标准来验证这些工具生成的信息。
这意味着，当一份AI辅助生成的报告进入流转链条时，没有任何一个制度节点被明确要求去核实它的生成方式。
这与一个成熟的情报流程形成鲜明对比。在传统流程中，报告的生产者、来源的可信度、分析的置信度都是制度性强制标注的。AI的引入打破了这一均衡，但没有建立替代性的控制机制。
一位消息人士对CNN的总结切中了要害：“AI会让你更快地产生糟糕的想法。”
速度快了，但验证的速度没有跟上。生成的能力强了，但核查的能力没有同步增强。
尾声
回到开头的那两个事件。
一个AI女演员在直播中说了粤语，公司说“这体现了她的多语言能力”。
一个AI在美军情报系统中编造了核情报，差点引发一场战争，五角大楼说“我们致力于严格核查”。
两件事的共同点，不是“AI出错了”。而是：我们正在把越来越多需要判断真假的权力，交给一台本质上只会判断“像不像”的机器。而且，我们还没有建立起任何真正有效的机制来监督这件事。
这不是技术问题。这是信任问题。
当我们把决策权交给一个概率模型时，我们实际上是在说：“我们相信它大概率是对的。”
但问题是：当错误发生的时候，你能分辨出来吗？
AI演员的粤语，你一眼就能看出不对劲。但如果一份AI生成的情报报告格式完美、语言专业、逻辑通顺，你拿什么去判断它是真是假？
在美军事件中，答案是：直到士兵快要登上那艘船的时候，才有人去查了一下。
下一次，还来得及吗？
浙公网安备 33010602011771号