智能体
x.com ·
@bcherny
Gray Swan 联合 Anthropic、Meta、Google DeepMind 等发起 30 万美元间接提示注入红队挑战
Gray Swan 宣布与 Anthropic、Meta、Google DeepMind、Reflection 等前沿实验室合作，举办迄今规模最大、最贴近真实的 AI 红队挑战，聚焦间接提示注入，奖金 30 万美元。Anthropic 的 Boris Cherny 表示，随着 Agent 能力增强，跨行业解决提示注入问题日益紧迫。
AI推荐理由 Anthropic 的 Boris Cherny 转述 Gray Swan 联合 Anthropic、Meta、Google DeepMind、Reflection 等发起的间接提示注入红队挑战，奖金 30 万美元，并称其为迄今最大、最真实的 AI 红队挑战。该信息涉及 Agent 安全的关键问题，有明确合作方和赛事形式，但帖子本身未给出技术细节或结果，属于赛事公告而非已验证突破。
72
浏览 61,527
点赞 592
评论 110
转发 38
正文
Over the last few years, we have made significant progress on prompt injection for Claude models. As agents do more, it is increasingly urgent that we solve it across the industry.
Really excited to partner with Gray Swan to host this competition. Can’t wait to see what you find!
来源报道 · 2 篇 · 以下链接均前往原始媒体
Boris Cherny (@bcherny)
Gray Swan 联合 Anthropic、Meta、Google DeepMind 等发起 30 万美元间接提示注入红队挑战
10-16 · 原文发布