智能体
www.youtube.com ·
@AI Engineer
构建平台然后看它烧起来:Agent 过度授权与护栏实战
Michael Forrester(Accenture)与 Whitney Lee(Datadog)用一个墨西哥卷饼点单助手演示 Agent 的过度授权问题:该机器人部署了外部容器镜像,并从 Kubernetes 环境中暴露“密钥配方”,观众被邀请把这一刻意宽松的机器人用于点单之外的用途,随后在加入基础设施与 AI 护栏后重复攻击。工作坊包含三种配置:第一种让机器人完全暴露;第二种加入基础设施控制,包括限制镜像来源和部署要求的 Kyverno 规则;演示显示预期的运行时防护并不能稳定阻止配方访问,讲者据此区分了哪些措施有效、哪些仍需修复;第三种环境进一步调整。模型拒答在不同尝试间会变化,说明应用边界不能依赖模型自行拒绝。
AI推荐理由 Accenture 的 Michael Forrester 与 Datadog 的 Whitney Lee 用一个墨西哥卷饼点单助手演示“过度授权”风险:该机器人部署了外部容器镜像并从 Kubernetes 环境暴露密钥配方,观众被邀请突破点单功能,再用基础设施与 AI 护栏重复攻击。工作坊对比三种配置(无防护、加入 Kyverno 镜像来源与部署限制等基础设施控制、以及第三层环境),并指出预期运行时防护未能稳定阻止配方访问,且模型拒答在不同尝试间会变化。对 Agent 安全边界设计有参考意义,但为现场演示转述,结论仍属未完全解决的状态。
66
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。