智能体
dev.to ·
@Kaushikreddy Lingi
分析型 Agent 的权限应当能扛住一次恶意提示
作者在 MerchantLens(基于 Databricks、Delta 表和 Unity Catalog 构建的商户分析湖仓)中探讨:当分析 agent 收到“返回所有客户未脱敏支付标识”的恶意指令时,系统允许该 agent 读取什么才是关键。方案是把调用方身份放入查询路径,agent 以自己的服务主体执行,Unity Catalog 在返回结果前对该主体应用列掩码与行过滤。README 用同一段 SQL 在两个主体下对比:分析师可见更宽的数据集,agent 只能看到受限区域和脱敏标识。项目使用合成支付数据,不含真实持卡人数据。
AI推荐理由 文章以“分析 agent 收到恶意指令要求返回未脱敏支付标识”为场景,说明权限边界应由数据平台而非模型决定,并在 MerchantLens 项目中用 Databricks、Delta 表与 Unity Catalog 演示同一 SQL 在不同服务主体下的列掩码与行过滤差异。这是 agent 权限治理的具体工程实践,对构建企业级 agent 的开发者有直接参考价值;项目使用合成数据,未涉及真实持卡人数据。
68
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。