最新资讯
theverge.com OpenAI 宣布数据中心项目不再与公职人员签署保密协议 dev.to NVIDIA 发布四个开放 Cosmos 3 仿真模型 dev.to 真实 MCP 客户端击穿我们服务器的五种方式 theverge.com Airbnb 正在开发 AI 旅行 agent,计划 2027 年上半年推出 wechat 这可能是美国AI最魔幻的一天。 nytimes.com 美众议院共和党领袖要求 Nvidia 黄仁勋闭门简报 pub.towardsai.net 忘掉我:为记忆而设计的系统中的删除难题 marktechpost.com Google 发布 Gemini Omni 1.2 Flash:15 秒视频,每秒 0.07 美元 unite.ai Airbnb 计划推出覆盖规划、预订与客服的 AI 旅行 agent techcrunch.com Airbnb 称将于 2027 年上半年推出 AI 旅行代理 theverge.com Perplexity 推出面向工作的 AI 代理 Teammates unite.ai Five9 拟以约3.25亿美元收购 Level AI,扩展客服AI分销渠道
多元动态
登录 注册
AI编码 www.infoq.com · @Bruno Couriol

Archestra 发布开源安全引擎 OpenAPPA,称在两大安全基准上实现 0% 攻击成功率

原文 我的收藏

Archestra 推出开源安全引擎 OpenAPPA,目标是阻止由提示注入或模型幻觉引发的数据外泄。团队称在 Bench-Corp(20 个多步骤企业工作流)和 AgentThreatBench 两项基准上实现零次成功攻击,并对比称 Claude Code 自动模式为 10%、Microsoft FIDES 为 31%。上述数据为团队自报,正文未提供独立验证或基准方法细节。

AI推荐理由 InfoQ 报道 Archestra 发布开源安全引擎 OpenAPPA,用于阻止提示注入或模型幻觉导致的数据外泄。文中给出具体对比数字:在 Bench-Corp(20 个多步骤企业工作流)和 AgentThreatBench 上报告 0% 攻击成功率,而 Claude Code 自动模式为 10%、Microsoft FIDES 为 31%。这些数字来自团队自报,正文未提供独立复现或基准细节,因此只能视为厂商声明而非已验证结论;但涉及 Agent 安全这一实际落地痛点,且给出了可对照的基线,具备一定参考价值。

62

正文

Archestra released OpenAPPA, an open-source security engine designed to stop data exfiltration caused by prompt injection or model hallucination. The team reports zero successful attacks when running security benchmarks Bench-Corp (20 multi-step enterprise workflows) and AgentThreatBench, versus 10% for Claude Code’s auto mode and 31% for Microsoft FIDES. By Bruno Couriol

来源报道 · 3 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容