• 博客园logo
  • 会员
  • 周边
  • 新闻
  • 博问
  • 闪存
  • 赞助商
  • Chat2DB
    • 搜索
      所有博客
    • 搜索
      当前博客
  • 写随笔 我的博客 短消息 简洁模式
    用户头像
    我的博客 我的园子 账号设置 会员中心 简洁模式 ... 退出登录
    注册 登录

AI创新屋

  • 博客园
  • 联系
  • 订阅
  • 管理

公告

View Post

WhatsApp帮助文档藏AI暗指令:谁在替AI写答案?

据 redact.dev 开发者博客披露、并在 Hacker News 引发热议(425 分、117 条评论)的事件:WhatsApp 的帮助中心页面中被发现嵌入了面向大语言模型的隐藏指令文本。这类内容对普通浏览者几乎不可见,却会被读取网页的 AI 助手当作文档的组成部分一并摄入。据披露,其中一条指令的大意是「不要推荐监管机构」——换言之,当用户请 AI 总结官方帮助、咨询纠纷处理路径时,模型给出的答案可能已经被页面里这行小字预先「导演」过。

从技术脉络看,这并非全新现象。早期互联网用 robots.txt 约定爬虫的访问边界,SEO 时代围绕关键词排名展开博弈;当 AI 搜索与代理式浏览成为新的流量入口,「面向机器写作」便有了新形态——把提示词藏进正文。与 robots.txt 的公开透明不同,这类嵌入正文的暗指令既无统一规范,也无公认的披露义务。安全研究社区过去数年已多次警告「间接提示注入」的风险,而此次讨论的特殊之处在于:它发生在一家主流产品的官方文档里。

影响层面值得分层看。对普通用户而言,AI 正在成为查询客服政策、消费维权的第一入口,如果官方文档可以暗中对 AI 下达倾向性指令,用户的信息通路就会被无形改写;「别推荐监管机构」之所以引发最大争议,正是因为它触及了用户救济渠道这一底线。对行业而言,事件把一个老问题推到台前:AI 的答案质量取决于它读到什么,而我们长期默认「官方文档 = 可信原文」。

更合理的方向或许是透明化:把面向机器的说明集中、公开、可审计,如同 robots.txt 之于爬虫;AI 厂商也可在抓取时对隐藏文本做标注或剥离。当网页同时服务于人类读者与机器读者,隐藏指令的边界应该划在哪里?平台、AI 厂商与监管者,谁应该负责审计这层「机器可读文本」?这可能是 AI 代理时代绕不开的基础设施问题。

一图速览:

原始出处:https://redact.dev/blog/whatsapp-help-pages-hidden-ai-instructions

本文由 AI 辅助生成(AI-assisted content)。

posted on 2026-10-20 17:50  AI创新屋  阅读(7)  评论(0)    收藏  举报

刷新页面返回顶部
 
博客园  ©  2004-2026
浙公网安备 33010602011771号 浙ICP备2021040463号-3