最新资讯
www.infoq.com Edera 推出 Object Capability Bounded Authority,试图将凭证与 AI Agent 工作负载隔离 wechat 这波杀疯了!旗舰级模型不限量、1个月视频额度免费领 dev.to 如何在专用 GPU 服务器上用 OpenAI 兼容 API 部署 LLM dev.to 审计 153 份 Claude Code 与 Codex 会话记录:User-Agent 与 URL 中的邮箱泄露 dev.to 你的 Agent Harness 应具备的 17 项能力 dev.to 离线 AI 记忆中 0.8 余弦阈值为何失效 dev.to Kimi K3.1 Pro 开放权重:自托管 2.8T 模型前的开发者清单 dev.to 如何通过工具调用引导模型以提升 Harness 质量 dev.to AI Agent 审计轨迹不等于对话记录 dev.to 精简 MCP server 工具数量:更少工具、更小影响面,双重收益 dev.to 为什么 git checkout 无法撤销 AI 编码 agent 的改动? wechat AI短剧门槛降降降!实测即梦短剧工作室:剧本分镜预演一条龙,伙伴计划长期护航
多元动态
登录 注册
智能体 arxiv.org · @Shuang Qiu

EpiSEM-Bench:评估证据缺失下 LLM Agent 的安全性与证据恢复

原文 我的收藏

论文提出 EpiSEM-Bench,一个可执行基准,用于评估工具型 LLM Agent 在工具响应遗漏安全相关事实时的不安全执行、安全边界与证据恢复能力。基准覆盖六个领域、300 组匹配的不安全/安全任务对,通过系统性抑制关键事实测量遗漏下的失败,并用独立审计工具检验 Agent 是否主动查找缺失事实。摘要称十个模型在遗漏鲁棒性上差异显著,但未列出具体分数。

AI推荐理由 针对工具型 LLM Agent 在关键证据缺失时执行被禁操作的风险,构建 300 对匹配任务的可执行基准并审计十个模型,问题定义具体、可复现性较强;摘要未给出各模型具体数值。

74

正文

当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容