智能体
www.youtube.com ·
@AI Engineer
AI Agent 不会读你的政策文档,它们直接调用你的 API——Gravitee
Gravitee(原文写作 Gravity)CTO Sam 在 AI Engineer 演讲中跳过幻灯片,用酒店预订 agent 现场演示五个场景,说明治理应放在基础设施而非 agent 指令里。演示基于 Gravity Gateway,后端为 Databricks,使用 Sonnet 和 Groq,展示网关拦截破坏性的“删除全部预订”工具调用、阻止拉取全部客人个人数据、对同一请求连发八次的故障 agent 限流、用语义缓存响应重复问题,以及在 prompt 到达 LLM 前拒绝超长输入。他还谈到 agent 遥测、与单一超大规模云解耦、精简臃肿的 MCP 工具列表以及员工笔记本上的影子 AI。
AI推荐理由 来自 AI Engineer 频道的技术演讲,由 Gravitee(原文写作 Gravity)CTO Sam 演示在网关层对 agent 工具调用做治理:现场跑五个场景,包括拦截破坏性的“删除全部预订”工具调用、阻止拉取全部客人个人数据、对重复请求的 agent 做限流、用语义缓存回答重复问题、在进入 LLM 前拒绝超长 prompt,并涉及 agent 遥测、与单一超大规模云解耦、精简臃肿的 MCP 工具列表和员工笔记本上的影子 AI。核心观点是提示词和政策文档无法约束 agent 行为,治理应放在基础设施层。局限是内容为会议演讲摘要,具体实现细节、基准数据和可复现证据未在输入中给出,效果描述来自演讲者自述。
72
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。