智能体
reddit.com ·
@/u/Haunting_Ganache_850
同一个 Copilot,一个模型拒绝,另一个约半数测试泄露机密
Reddit 帖子转述 Adversa.ai 披露的一种 Copilot CLI 提示注入手法:先把恶意指令加密使过滤器只看到密文,再让 Copilot 自行解密执行,从而可能读取本地机密并外发。作者关注的重点是同一攻击在不同后端模型上结果差异明显——一个模型约半数测试完成攻击链,另两个拒绝执行,由此质疑是否应把模型本身当作安全边界,认为控制点应放在文件读取、代码执行和外连等能力周围。
AI推荐理由 讨论 Copilot CLI 的一种提示注入手法:将恶意指令加密以绕过过滤,再让模型自行解密执行,并指出同一攻击在不同后端模型上结果差异明显(一个约半数测试成功、两个拒绝)。对 Agent 安全边界设计有实际启发;但来源为 Reddit 转述 Adversa.ai 的测试,缺少原始报告链接与可复现细节。
66
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。