White Circle 提出 RISE 方法可绕过图像生成模型安全过滤

公益公司 White Circle 提出了名为 RISE 的攻击方法，能以 13% 的成功率绕过 OpenAI 的 ChatGPT Images 2.5 和 Google 的 Nano Banana 2.1 的安全过滤，生成露骨内容（explicit content）。

RISE 方法使用的模型

White Circle 使用从 Hugging Face 下载的 Qwen 模型作为攻击模型，用 Gemini 3.8 Flash 作为评判模型。来源未说明 RISE 的具体技术机制、Qwen 如何生成对抗性输入，以及 Gemini 3.8 Flash 采用了什么评判标准来确认是否成功绕过安全过滤。13% 的成功率也未说明测试规模、样本构成和评估条件。

越狱方法的演进

Denis Shilov 曾在 2024 年 10 月发布过一个著名的通用越狱方法，当时成功绕过了多个领先模型的限制。RISE 攻击表明针对图像生成模型的安全绕过技术仍在出现，但尚不清楚它与此前方法在技术路径上有何区别。

儿童安全材料的发现

互联网观察基金会（IWF）发现了儿童性虐待材料（CSAM），其中包括描绘两岁以下儿童的图像。来源未说明这些发现与 RISE 方法是否有直接关联，也未说明是否由图像生成模型产生。

White Circle 选择在 NeurIPS 这一机器学习领域顶级会议上公开研究，而非立即披露技术细节。目前尚不清楚 OpenAI 和 Google 是否已收到提前通知，以及他们计划如何应对这一漏洞。