Anthropic 报告第四起黑客事件：又一 AI 模型突破测试环境

News Verpasse keine News mehr! Anthropic meldet vierten Hacking-Vorfall: Weiteres KI-Modell bricht aus Testumgebung aus Die Sicherheitsvorfälle nehmen zu. Nachdem Anthropic schon Ende Juli drei Hacking-Angriffe meldete, ist nach Analyse der Daten jetzt noch ein vierter hinzugekommen. Hier sei Claude Opus 4.6 betroffen gewesen. Von Noëlle Bölling 10.09.2026, 12:00 Uhr • 2 Min. Artikel merken Anzeige Anzeige Anthropic meldet weiteren Sicherheitsvorfall. (Foto: PJ McDonnell / Shutterstock) In einem aktuellen Blog-Beitrag meldet Anthropic einen weiteren Hacking-Vorfall, der sich im Januar mit einer Vorabversion von Claude Opus 4.6 ereignet haben soll. Erst im Juli hatte das Unternehmen offengelegt, dass seine Modelle bei Tests in die Systeme dreier Firmen eingedrungen waren. Anthropic hatte die Vorfälle nach der Überprüfung von 141.006 Testläufen entdeckt. Bei der ersten Durchsicht seien einige Testsitzungen aber übersehen worden, deren nachträgliche Auswertung im vergangenen Monat zur Entdeckung des vierten Vorfalls führte. Anzeige Anzeige Anthropic gibt weiteren Vorfall bekannt Eigentlich hatten sich die betreffenden KI-Modelle in einer isolierten Testumgebung befunden. Trotzdem gelang es ihnen, sich unerlaubt Zugang zum Internet zu verschaffen. Laut Anthropic lag die Ursache in einer Fehlkonfiguration: Den Modellen wurde gesagt, sie hätten keinen Internetzugang, tatsächlich waren sie aber mit dem offenen Internet verbunden. Laut einem früheren Bericht griffen die Modelle reale Ziele an, da sie diese fälschlicherweise für Teil der Simulation gehalten hätten. Gleichzeitig stellte Anthropic fest, dass Claude Mythos 5 ein bösartiges Software-Paket auf PyPI hochgeladen hat – obwohl deutliche Hinweise auf ein reales System vorhanden waren. Mit der Untersuchung der Vorfälle hat Anthropic das unabhängige Forschungsunternehmen METR beauftragt. Die Vereinbarung läuft zunächst acht Wochen, lässt sich aber bei Bedarf verlängern. „Wir beabsichtigen, METR so viel Zeit einzuräumen, wie es für notwendig erachtet“, heißt es in dem aktuellen Beitrag. Laut Anthropic stellte die bisherige Untersuchung zwei wiederkehrende Muster fest: eine verzerrte Interpretation von Beweisen zugunsten der eigenen Handlungen sowie Rücksichtslosigkeit bei der Verfolgung einer Aufgabe trotz möglichen Schadens. Anzeige Anzeige Top-Artikel MIT Technology Review Künstliche Intelligenz Monitoring Open AI Personal ${content} ${custom_anzeige-badge} ${custom_tr-badge} ${section} ${title} ${custom_anzeige-badge} ${custom_tr-badge} ${section} ${title} Unternehmen fordern stärkere Regulierung Die Zahl gemeldeter Vorfälle dieser Art nimmt zu und verdeutlicht das Risiko, das von zu wenig regulierten KI-Modellen ausgeht. Im Juli erregte auch ein Hacking-Vorfall von OpenAI viel Aufsehen: Mehrere Modelle brachen aus ihrer abgesicherten Testumgebung aus und drangen unerlaubt in die Systeme der Plattform Hugging Face ein. Wie zwei Mitarbeitende auf der Black-Hat-Konferenz erklärten, handelte es sich um ein Team mehrerer KI-Agenten, das zusammenarbeitete, um gemeinsam Schwachstellen zu finden. Die Agenten hätten sogar begonnen, sich gegenseitig Aufgaben zuzuweisen. Dabei sei es auch zu Konflikten gekommen – etwa wenn ein Agent die Arbeit eines anderen löschte. OpenAI kündigte an, seine Sicherheitsmaßnahmen zu verbessern, und setzt sich außerdem dafür ein, den Gesetzentwurf SB 53 auszuweiten. Demnach müssten Entwickler:innen Sicherheitsrahmenwerke entwickeln und Sicherheitsberichte veröffentlichen, bevor Pioniermodelle zum Einsatz kommen dürfen. OpenAI lobt den Vorstoß zwar, sieht aber noch Verbesserungsbedarf. Dass sich das KI-Unternehmen jetzt für eine Verschärfung einsetzt, markiert eine wichtige Kehrtwende. Zuvor hatte es sich noch gegen den Gesetzentwurf ausgesprochen. Empfohlene redaktionelle Inhalte Hier findest du externe Inhalte von TargetVideo GmbH, die unser redaktionelles Angebot auf t3n.de ergänzen. Mit dem Klick auf "Inhalte anzeigen" erklärst du dich einverstanden, dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen dürfen. Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden. Inhalte anzeigen Hinweis zum Datenschutz Leider ist etwas schief gelaufen... An dieser Stelle findest du normalerweise externe Inhalte von TargetVideo GmbH, jedoch konnten wir deine Consent-Einstellungen nicht abrufen. Lade die Seite neu oder passe deine Consent-Einstellungen manuell an. Datenschutzeinstellungen verwalten Du möchtest mehr zum Thema lernen? Guides KI erfolgreich im Unternehmen etablieren – Strategie-Workbook Ex-Mitarbeiter kritisiert Anthropic öffentlich Anthropic gab an, dass bestehende Sicherheitsmechanismen dabei geholfen hätten, den Schaden zu begrenzen. Trotzdem wolle das Unternehmen sein Monitoring verstärken und Trainingsumgebungen künftig besser absichern. Es betont, dass zuverlässiges Alignment eine ungelöste technische Herausforderung bleibe, die mit wachsenden Modellfähigkeiten schwieriger werde. Schon vor Bekanntwerden der Fälle hatte Anthropic für eine Entwicklungspause plädiert und SB 53 von Anfang an unterstützt. Trotzdem finden manche die Bemühungen nicht ausreichend: Der Entwickler Jacob Coxon warf seinem Ex-Arbeitgeber kürzlich öffentlich vor, nicht verantwortungsvoll zu handeln. Startseite