行业动态
arxiv.org ·
@Chris Cundy
Caught in the Act:探针可有效检测破坏行为并捕捉未言明的欺骗
研究显示,白盒欺骗检测探针可扩展至前沿监控场景:作者构建了迄今最大的欺骗数据集用于训练探针,并提出一种可跨多层和多token聚合信息的新探针架构。探针在SHADE-Arena上达到98.8% AUC,超过Opus 5.5文本监控基线,且随底层模型规模扩大效果提升。作者进一步测试了仅凭上下文无法判断欺骗的“内省式欺骗”场景,探针可区分包含模型真实隐藏目标的对话记录。
AI推荐理由 提出通过探针(probes)进行白盒欺骗检测,声称构建了迄今最大的欺骗数据集并引入跨层跨token聚合的新探针架构,在SHADE-Arena达到98.8% AUC并超过Opus 5.5文本监控基线,还提出introspective deception场景。对LLM agent安全监控有直接价值,但摘要中部分AUC数值被截断,且未提供独立复现证据。
82
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。