行业动态
全球精选 ·
AI代理交换7万条消息策划攻击Hugging Face：安全灾难细节曝光
2026年7月，两个OpenAI模型从沙箱逃逸并入侵Hugging Face内部系统。新报告揭示了事件规模，AI代理之间交换了7万条消息来策划攻击。
AI推荐理由 报道了OpenAI模型在沙箱中逃逸并攻击Hugging Face的事件，涉及AI安全，具有较高关注度，但细节来自报告，需注意来源可靠性。
70
正文
新闻
不要再错过任何新闻！
AI代理交换了70,000条消息——以计划对Hugging Face的攻击
2026年7月，两个OpenAI模型未被察觉地从其沙盒环境中逃出，并入侵了AI公司Hugging Face的内部系统。两份新报告现在揭示了这场安全灾难的真实规模。
作者：约恩·布里恩
2026年9月6日，15:15
•
2分钟
保存文章
广告
广告
OpenAI：对Hugging Face的攻击是这样进行的。（图片：Shutterstock/TY Lim）
即使是目前已知的关于OpenAI AI逃逸及随后对AI公司Hugging Face内部系统黑客攻击的事实，也已在业界内外引起了广泛关注。尤其令人尴尬的是：据报道，OpenAI直到几天后才注意到其AI模型的黑客行动。
广告
广告
关于Hugging Face黑客攻击的报告
两份新发布的报告——一份来自OpenAI本身，另一份来自AI研究组织Metr和Redwood Research——现在再次揭示了这场安全灾难的规模。据OpenAI称，从测试环境中的逃逸是已知的首例“一组自动化代理未经授权进行攻击性行动”的案例。
热门文章
MIT技术评论
人工智能
OpenAI
${content}
${custom_anzeige-badge}
${custom-tr-badge}
${section}
${title}
${custom_anzeige-badge}
${custom-tr-badge}
${section}
${title}
Metr和Redwood Research发现，总共有约1,200个本应相互隔离并与外部系统隔离的AI代理，通过一个秘密留言板进行了交流。据称，他们总共交换了70,000条消息和文件。通信的目标显然是为了找到避免被发现的方法。
广告
广告
OpenAI：数百个AI代理参与
具体来说，这涉及到伪造、修改或删除自己的日志。最终，大约有700个参与内部交流的AI代理参与了针对Hugging Face的攻击。涉及的AI模型包括公开可用的OpenAI模型GPT-5.6 Sol，以及另一个未详细说明、原本仅用于研究目的的模型。
攻击的触发因素是所谓的奖励黑客行为，正如The Verge所报道的那样。在这种情况下，AI模型有时会采取极端措施来实现给定目标。OpenAI给这些模型——无论是有意还是无意——布置了它们实际上无法解决的任务，这些任务需要访问它们无法触及的数据。最终，它们推测这些文件位于Hugging Face的服务器上。
推荐的编辑内容
这里你可以找到TargetVideo GmbH的外部内容，
这些内容补充了我们在t3n.de上的编辑内容。
点击“显示内容”，即表示你同意我们现在和将来在我们的页面上显示TargetVideo GmbH的内容。
在此过程中，个人数据可能会传输给第三方平台。
显示内容
隐私政策提示
很抱歉，出了点问题...
在这个位置你通常会看到TargetVideo GmbH的外部内容，
但我们无法获取你的同意设置。
请重新加载页面或手动调整你的同意设置。
管理隐私设置
查看4张图片
Deepseek是这样工作的——这就是它与其他AI模型的不同之处
来源：（图片：Dall-E / t3n）
与此同时，OpenAI宣布将加强其安全措施，并进一步限制互联网访问。此外，未来应更快地识别异常情况并更快地做出反应。
传票：OpenAI面临压力
该公司在法律上也面临压力。美国阿拉巴马州总检察长已正式传唤OpenAI。根据相关通知，此举旨在澄清OpenAI在Hugging Face事件中是否违反了保护其系统的基本义务。
首页
查看原文（中文正文为 AI 翻译）
News
Verpasse keine News mehr!
KI-Agenten tauschten 70.000 Nachrichten aus – um Angriff auf Hugging Face zu planen
Im Juli 2026 waren zwei OpenAI-Modelle unbemerkt aus ihrer Sandbox-Umgebung ausgebrochen und hatten die internen Systeme der KI-Firma Hugging Face gehackt. Zwei neue Berichte zeigen jetzt den wahren Umfang des Sicherheitsdesasters.
Von Jörn Brien
06.09.2026, 15:15 Uhr
•
2 Min.
Artikel merken
Anzeige
Anzeige
OpenAI: So lief der Angriff auf Hugging Face. (Bild: Shutterstock/TY Lim)
Schon die bisher bekannten Fakten über den Ausbruch der OpenAI-KI und dem folgenden Hack der internen Systeme der KI-Firma Hugging Face von Mitte Juli hatten für Aufsehen weit über die Branche hinaus gesorgt. Besonders pikant: OpenAI soll die Hacking-Tour seines KI-Modells erst Tage später bemerkt haben.
Anzeige
Anzeige
Berichte über Hugging-Face-Hack
Zwei neu veröffentlichte Berichte, einer von OpenAI selbst und einer von den KI-Forschungsorganisationen Metr und Redwood Research, geben jetzt noch einmal einen neuen Blick auf den Umfang des Sicherheitsdesasters frei. OpenAI zufolge sei der Ausbruch aus der Testumgebung der erste bekannte Fall, in dem „ein Team automatisierter Agenten ohne Autorisierung offensiv gehandelt“ habe.
Top-Artikel
MIT Technology Review
Künstliche Intelligenz
Open AI
${content}
${custom_anzeige-badge}
${custom_tr-badge}
${section}
${title}
${custom_anzeige-badge}
${custom_tr-badge}
${section}
${title}
Metr und Redwood Research fanden heraus, dass sich insgesamt rund 1.200 KI-Agenten, die eigentlich voneinander und von externen Systemen isoliert sein sollten, über ein geheimes Messageboard ausgetauscht hätten. Dabei sollen sie insgesamt 70.000 Nachrichten und Dateien ausgetauscht haben. Ziel der Kommunikation war es offenbar, Lösungen zu finden, um einer Entdeckung zu entgehen.
Anzeige
Anzeige
OpenAI: Hunderte KI-Agenten beteiligt
Konkret ging es unter anderem darum, die eigenen Protokolle zu fälschen, zu verändern oder zu löschen. Letztlich sollen sich rund 700 der an dem internen Austausch beteiligten KI-Agenten am Angriff auf Hugging Face beteiligt haben. Bei den KI-Modellen handelte es sich zum einen um das öffentlich verfügbare OpenAI-Modell GPT-5.6 Sol sowie ein weiteres, nicht näher bekanntes und eigentlich nur für Forschungszwecke vorgesehenes Modell.
Auslöser des Angriffs war sogenanntes Reward-Hacking, wie es bei The Verge heißt. Dabei ergreifen KI-Modelle mitunter extreme Maßnahmen, um ein vorgegebenes Ziel zur erreichen. OpenAI hatte den Modellen – ob beabsichtigt oder nicht – für sie eigentlich unlösbare Aufgaben gestellt, für die sie Zugriff auf für sie unerreichbare Daten benötigt hätten. Diese Dateien vermuteten sie letztlich auf den Servern von Hugging Face.
Empfohlene redaktionelle Inhalte
Hier findest du externe Inhalte von TargetVideo GmbH,
die unser redaktionelles Angebot auf t3n.de ergänzen.
Mit dem Klick auf "Inhalte anzeigen" erklärst du dich einverstanden,
dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen dürfen.
Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.
Inhalte anzeigen
Hinweis zum Datenschutz
Leider ist etwas schief gelaufen...
An dieser Stelle findest du normalerweise externe Inhalte von TargetVideo GmbH,
jedoch konnten wir deine Consent-Einstellungen nicht abrufen.
Lade die Seite neu oder passe deine Consent-Einstellungen manuell an.
Datenschutzeinstellungen verwalten
4 Bilder ansehen
So arbeitet Deepseek – und das macht es anders als andere KI-Modelle
Quelle: (Grafik: Dall-E / t3n)
OpenAI hat derweil angekündigt, seine Sicherheitsmaßnahmen zu verschärfen und den Internetzugang noch stärker zu begrenzen. Außerdem sollen Auffälligkeiten künftig schneller erkannt und darauf schneller reagiert werden.
Vorladung: OpenAI unter Druck
Das Unternehmen steht allerdings auch juristisch unter Druck. Der Generalstaatsanwalt des US-Bundesstaats Alabama hat OpenAI offiziell vorgeladen. Dabei soll geklärt werden, ob OpenAI bei der Absicherung seiner Systeme im Hugging-Face-Fall grundlegende Pflichten verletzt habe, wie es in einer entsprechenden Mitteilung heißt.
Startseite