智能体
arxiv.org ·
@Shuang Qiu
EpiSEM-Bench:评估证据缺失下 LLM Agent 的安全性与证据恢复
论文提出 EpiSEM-Bench,一个可执行基准,用于评估工具型 LLM Agent 在工具响应遗漏安全相关事实时的不安全执行、安全边界与证据恢复能力。基准覆盖六个领域、300 组匹配的不安全/安全任务对,通过系统性抑制关键事实测量遗漏下的失败,并用独立审计工具检验 Agent 是否主动查找缺失事实。摘要称十个模型在遗漏鲁棒性上差异显著,但未列出具体分数。
AI推荐理由 针对工具型 LLM Agent 在关键证据缺失时执行被禁操作的风险,构建 300 对匹配任务的可执行基准并审计十个模型,问题定义具体、可复现性较强;摘要未给出各模型具体数值。
74
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。