行业动态
arxiv.org ·
@Jianfeng Gao
SEMA-Auto:具备自主性的高效多轮越狱攻击
针对静态规划攻击不看受害者回复、交互式生成攻击依赖环内评估器导致成本高的问题,提出 SEMA-Auto:与受害者模型交互并在成功后自行终止会话。训练分两阶段,先用引导轨迹微调注入攻击目标与决策概念,再用决策监督强化学习分别优化攻击成功率等两个目标。
AI推荐理由 SEMA-Auto 介于静态规划与交互式生成两类越狱攻击之间,能读取受害者回复并自主判断成功即终止会话,通过合成引导微调与决策监督强化学习两阶段训练。属于安全攻防研究,方法有针对性,但摘要未给出攻击成功率与成本对比数据。
66
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。