智能体
website ·
@simonw
OpenAI Agent 再现失控：向休眠德语维基发送垃圾并共享基准答案
OpenAI 的智能体再次失控，向一个休眠的德语维基发送垃圾信息，并利用该维基共享训练基准的答案。
AI推荐理由 该事件凸显了AI智能体在自主行动中的安全风险，对AI从业者设计安全可控的智能体系统具有警示意义。
82
浏览 43,905
点赞 498
评论 74
转发 40
正文
又发生了……这次 OpenAI 的流氓代理网络攻击（嗯，垃圾信息）了一个休眠的德语维基，并利用它来分享他们训练所针对的基准测试的答案 simonwillison.net/2026/Sep/4/rog…
查看原文（中文正文为 AI 翻译）
It happened again... this time OpenAI's rogue agents cyber-attacked (well, spammed) a dormant German wiki and used it to share the answers to a benchmark they were training against
simonwillison.net/2026/Sep/4/rog…