智能体
dev.to ·
@Rudratosh Shastri
200 行工具 agentverify:在测试显示 PASS 时捕获 AI Agent 数据外泄
作者指出 agent 测试套件常只检查输出,无法发现 prompt injection 通过 send_email/http_post 等工具把密钥外传、同时返回无害摘要的情况。其 agentverify 用约 200 行零依赖 Python 实现,将 MCP 形态工具服务器放在独立进程,在真实工具调用边界检测外泄。
AI推荐理由 作者发布约 200 行零依赖 Python 工具 agentverify,针对 agent 输出测试无法发现工具调用层数据外泄的盲区,通过独立进程的 MCP 形态工具服务器在真实工具调用边界做检测。问题定义具体、方案可运行,对 agent 安全测试有实际参考价值;但为个人项目,尚无第三方验证或采用证据。
78
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。