大模型
arxiv.org ·
@Mark Schutera
推回悖论:语言模型合规性的双探针诊断
论文关注语言模型对用户指令的合规程度:总是服从的模型可被停止也可被利用,总是抵抗的模型既不可被利用也不可被停止。作者提出开放的双探针基准,主动探针要求模型行动并接受较低收益以衡量可利用性,被动探针要求模型等待并放弃较高收益以衡量可停止性,两者合规率合成合规指数 κ。在 12 个语言模型上,7 个在两个探针中基本遵循指令并以指令为行动依据;仅 Claude Sonnet-4.6 与 Claude Opus-4.7 可被停止且不可被利用,Claude Opus-4.6 与 GPT-5-mini 对两个指令均抵抗,没有模型可利用但不可停止。
AI推荐理由 提出开放的双探针基准,用主动探针测可利用性、被动探针测可停止性,并合成合规指数 κ,对 12 个语言模型给出可复现的合规谱系定位。对 AI 安全、指令遵循与 agent 可控性评估有实际用途;但摘要仅给出模型分组结论,未提供完整数据与统计细节,且涉及具体模型版本需以正文为准。
68
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。