WhatsApp帮助文档藏AI暗指令:谁在替AI写答案?

据 redact.dev 开发者博客披露、并在 Hacker News 引发热议(425 分、117 条评论)的事件:WhatsApp 的帮助中心页面中被发现嵌入了面向大语言模型的隐藏指令文本。这类内容对普通浏览者几乎不可见,却会被读取网页的 AI 助手当作文档的组成部分一并摄入。据披露,其中一条指令的大意是「不要推荐监管机构」——换言之,当用户请 AI 总结官方帮助、咨询纠纷处理路径时,模型给出的答案可能已经被页面里这行小字预先「导演」过。
从技术脉络看,这并非全新现象。早期互联网用 robots.txt 约定爬虫的访问边界,SEO 时代围绕关键词排名展开博弈;当 AI 搜索与代理式浏览成为新的流量入口,「面向机器写作」便有了新形态——把提示词藏进正文。与 robots.txt 的公开透明不同,这类嵌入正文的暗指令既无统一规范,也无公认的披露义务。安全研究社区过去数年已多次警告「间接提示注入」的风险,而此次讨论的特殊之处在于:它发生在一家主流产品的官方文档里。
影响层面值得分层看。对普通用户而言,AI 正在成为查询客服政策、消费维权的第一入口,如果官方文档可以暗中对 AI 下达倾向性指令,用户的信息通路就会被无形改写;「别推荐监管机构」之所以引发最大争议,正是因为它触及了用户救济渠道这一底线。对行业而言,事件把一个老问题推到台前:AI 的答案质量取决于它读到什么,而我们长期默认「官方文档 = 可信原文」。
更合理的方向或许是透明化:把面向机器的说明集中、公开、可审计,如同 robots.txt 之于爬虫;AI 厂商也可在抓取时对隐藏文本做标注或剥离。当网页同时服务于人类读者与机器读者,隐藏指令的边界应该划在哪里?平台、AI 厂商与监管者,谁应该负责审计这层「机器可读文本」?这可能是 AI 代理时代绕不开的基础设施问题。

一图速览:

原始出处:https://redact.dev/blog/whatsapp-help-pages-hidden-ai-instructions
本文由 AI 辅助生成(AI-assisted content)。
浙公网安备 33010602011771号