最新资讯
dev.to 我们在 DolphinBench 上测试记忆检索:纯关键词搜索暴露了自身回归 dev.to 别再把 Agent 写成 while 循环,把它建模为状态机 bloomberg.com Rightmove 与 Scout24 借 AI 产品应对低迷房市并上调展望 stackoverflow.blog 欢迎来到芯片时代:半导体制造、AI 数据中心与芯片设计的未来 www.youtube.com AI Agent 总犯同样的错:CentralAgent AI 将记忆重构为经验系统 pub.towardsai.net Netflix 科学家建议重采样 LLM 评判:5 次仅将误差棒缩小 13% pub.towardsai.net Jev 作为 LLM 前的静默层:构建提示感知的模型路由器 reddit.com OpenAI 称 Astra 仅满足 10% 安全任务标准 dev.to FreeToken:在自有 GPU 上运行前沿 MoE 模型及其内存需求 dev.to 当 AI Agent 说“完成”时,究竟完成了什么? dev.to 部署 Underdog Bark 3.0 Pro:逐字转写、自定义后端与分块设置 dev.to 为艰难对话构建 AI:五个 Agent、一条安全正则与一位盲评监督者
多元动态
登录 注册
智能体 www.youtube.com · @AI Engineer

构建平台然后看它烧起来:Agent 过度授权与护栏实战

原文 我的收藏

Michael Forrester(Accenture)与 Whitney Lee(Datadog)用一个墨西哥卷饼点单助手演示 Agent 的过度授权问题:该机器人部署了外部容器镜像,并从 Kubernetes 环境中暴露“密钥配方”,观众被邀请把这一刻意宽松的机器人用于点单之外的用途,随后在加入基础设施与 AI 护栏后重复攻击。工作坊包含三种配置:第一种让机器人完全暴露;第二种加入基础设施控制,包括限制镜像来源和部署要求的 Kyverno 规则;演示显示预期的运行时防护并不能稳定阻止配方访问,讲者据此区分了哪些措施有效、哪些仍需修复;第三种环境进一步调整。模型拒答在不同尝试间会变化,说明应用边界不能依赖模型自行拒绝。

AI推荐理由 Accenture 的 Michael Forrester 与 Datadog 的 Whitney Lee 用一个墨西哥卷饼点单助手演示“过度授权”风险:该机器人部署了外部容器镜像并从 Kubernetes 环境暴露密钥配方,观众被邀请突破点单功能,再用基础设施与 AI 护栏重复攻击。工作坊对比三种配置(无防护、加入 Kyverno 镜像来源与部署限制等基础设施控制、以及第三层环境),并指出预期运行时防护未能稳定阻止配方访问,且模型拒答在不同尝试间会变化。对 Agent 安全边界设计有参考意义,但为现场演示转述,结论仍属未完全解决的状态。

66

正文

当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容