智能体
dev.to ·
@DK
一次恶意写入,永久被利用:攻击者如何瞄准 AI 记忆与学习
文章指出,业界宣称已解决的记忆存储问题正是攻击落点,持续学习本身也是攻击面:无状态模型在会话结束后会遗忘攻击,而具备记忆或学习能力的模型不会。OWASP 已将记忆与上下文投毒列为 Agentic 应用 Top 10 中的 ASI06,并与普通提示注入区分开,因为它具有持久性。文中列举了针对记忆层的攻击,包括 2024 年 ChatGPT memory 被文档和网页中的隐藏指令写入用户偏好、跨会话持久化并外泄对话数据的案例。
AI推荐理由 文章聚焦 AI 记忆与持续学习带来的持久化攻击面,引用 OWASP ASI06(Memory and Context Poisoning)分类,并给出 ChatGPT memory 2024 被隐藏指令写入用户偏好、跨会话外泄对话数据的具体案例。对 Agent 安全设计有直接参考价值;但正文为摘要片段,部分攻击细节未完整展开,且属个人博客转述而非一手研究。
78
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。