摘要: 过去几年,谈 LLM 数据投毒(data poisoning)时,行业默认一个前提:攻击者需要控制训练语料的一个百分比。想给一个 13B 的模型下毒,就得按比例投入比给 600M 模型多得多的毒样本。这个假设直接决定了防御策略:只要把训练数据做得足够大,稀释掉少数恶意文档,攻击就不成立。 Anthr 阅读全文