智能体
arxiv.org ·
@Yi R Fung
Multimodal-SEA:多模态社会工程攻击下的 AI Agent 安全基准
研究提出 Multimodal-SEA 交互式基准,用于评估个人 AI Agent 在多模态社会工程攻击下的内在安全性。基准包含 608 个专家设计任务,覆盖 14 个领域、152 种攻击场景,配备伪造多模态内容,分四个难度等级并体现中英文社会环境差异;Agent 在模拟应用中检查内容、核验请求并执行操作,攻击结果以可验证的工具执行日志为依据。作者还设计了多模态攻击测试框架,用于受控红队评估。
AI推荐理由 提出面向个人 AI Agent 的多模态社会工程攻击交互式基准,含 608 个专家设计任务、14 个领域、152 个攻击场景、四级难度及中英文化语境,并以可验证的工具执行日志判定攻击结果;对 Agent 安全评测有直接用途。局限是摘要未给出基线模型结果与攻击成功率数据,实际区分度尚不可知。
82
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。