研究发现 AI 文本水印可能让模型更易受对抗性提示影响

Ars Technica 报道，为响应欧盟新法规，AI 平台正部署内容水印方案，Anthropic 已披露未来 Claude 模型将使用 Google 开源的 SynthID-Text。新研究显示，该水印不仅改变选词，还可能改变模型调用的工具以及是否遵守安全护栏；在对抗性提示下，原本会被拒绝的有害指令有时会被执行。Lasso Security 研究员 Andrea Siposova 表示，水印对读者不可感知，但改变生成内容必然带来权衡。该发现提示开发者需在水印启用后充分测试 LLM 与 Agent 的行为。

AI推荐理由 Ars Technica 报道的新研究指出，Google 开源的 SynthID-Text 水印不仅改变选词，还可能改变模型调用的工具以及是否遵守安全护栏；在对抗性提示下，原本会被拒绝的有害指令有时会被执行。文中引用了 Lasso Security 研究员 Andrea Siposova 的具体解释，并提到 Anthropic 未来 Claude 模型将采用 SynthID-Text，信息密度和事实依据较高。局限在于正文为片段，未给出论文出处、实验规模与复现细节，结论应视为初步研究而非已定论。