大模型
全球精选 ·
针对未学习模型提取被遗忘提示的研究
该研究关注大模型中的“未学习”技术，近期方法（如NPO、DPO、LUNAR）通过拒绝对齐来压制被遗忘数据。然而，研究发现拒绝响应可能留下未学习痕迹，使攻击者能够成功恢复部分被遗忘的信息，揭示了此类方法的安全隐患。
AI推荐理由 此研究揭示主流机器遗忘方法可能留下可被利用的痕迹，意味着依赖这些方法实现数据删除合规的AI产品存在隐私泄露风险，开发者与监管方需重新评估遗忘机制的对抗鲁棒性。
85
正文
当前仅保存了标题或简介；并非所有来源都提供正文，可通过下方原文链接查看。