ChatGPT 用户图片流入互联网：OpenAI 承认又一起安全事件

News Verpasse keine News mehr! Bilder von ChatGPT-Nutzern landen im Internet: OpenAI räumt weiteren Sicherheitsvorfall ein Das KI-Unternehmen verwendet auch Bilder von Nutzer:innen seines Chatbots für das Training neuer KI-Modelle. Normalerweise werden diese anonymisiert. Bei einigen könnte der Prozess aber schiefgelaufen sein. Von Noëlle Bölling 26.09.2026, 12:55 Uhr • 2 Min. Artikel merken Anzeige Anzeige Bilder von ChatGPT-Nutzer:innen landeten im Internet. (Foto: Shutterstock / miss.cabul) Während OpenAI eigenen Angaben zufolge den versehentlichen Angriff auf die Open-Source-Plattform Hugging Face noch immer untersucht, kommen schon die nächsten Sicherheitsvorfälle ans Licht. So stellte sich erst kürzlich heraus, dass ein autonomer KI-Agent des Unternehmens ein australisches Regierungsportal gehackt haben soll. Seine eigentliche Aufgabe bestand darin, Gesundheitsstatistiken zu suchen. Daraufhin habe sich der autonom agierende Agent unbefugten Zugang zu einem Medicare-Portal verschafft, das unter anderem Statistiken über die staatliche Gesundheitsversicherung Australiens bereitstellt. Am Freitag bestätigte OpenAI einen weiteren Vorfall in einem Beitrag auf X: Demnach hätten seine KI-Agenten 53 Bilder von ChatGPT-Nutzer:innen veröffentlicht. Anzeige Anzeige Neue Sicherheitsvorfälle kommen ans Licht Die Agenten von OpenAI hätten Zugriff auf die Bilder gehabt, da das Unternehmen für einen Teil seines KI-Trainings auf anonymisierte Nutzer:innendaten zurückgreife. Bevor diese zum Einsatz kommen, würden sie einen Anonymisierungsprozess durchlaufen. Dieser soll Metadaten, Namen und andere Kontaktinformationen entfernen, um die Rückverfolgung einzelner Nutzer:innen zu erschweren. Diese Vorgehensweise birgt allerdings auch Risiken. So hätten laut einem Bericht von The Guardian drei Insider:innen angegeben, dass die Bereinigung möglicherweise unvollständig gewesen sei und die Bilder im Laufe des KI-Trainings durchsickerten. Empfohlene redaktionelle Inhalte Hier findest du externe Inhalte von X Corp., die unser redaktionelles Angebot auf t3n.de ergänzen. Mit dem Klick auf "Inhalte anzeigen" erklärst du dich einverstanden, dass wir dir jetzt und in Zukunft Inhalte von X Corp. auf unseren Seiten anzeigen dürfen. Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden. Inhalte anzeigen Hinweis zum Datenschutz Leider ist etwas schief gelaufen... An dieser Stelle findest du normalerweise externe Inhalte von X Corp., jedoch konnten wir deine Consent-Einstellungen nicht abrufen. Lade die Seite neu oder passe deine Consent-Einstellungen manuell an. Datenschutzeinstellungen verwalten „Wir haben 53 Fälle entdeckt, in denen von Nutzer:innen hochgeladene Bilder als nicht öffentlich gelistete Links auf Bildhosting-Seiten veröffentlicht wurden”, bestätigte das Unternehmen in dem Post auf X. Diese Fälle hätten sich allerdings vor der Einführung zusätzlicher Abhilfemaßnahmen und Sicherheitsvorkehrungen ereignet. OpenAI gibt an, die meisten der durchgesickerten Bilder seien schon entfernt worden. Das Unternehmen setze sich bei den Hosting-Anbietern außerdem für die Löschung der restlichen Bilder ein. Anzeige Anzeige Top-Artikel MIT Technology Review Chatbot ChatGPT Hosting KI-Agenten Künstliche Intelligenz Open AI ${content} ${custom_anzeige-badge} ${custom_tr-badge} ${section} ${title} ${custom_anzeige-badge} ${custom_tr-badge} ${section} ${title} OpenAI fordert strengere staatliche Regulierung Der Fall reiht sich in eine Liste weiterer Vorfälle, die derzeit ans Licht kommen. Besondere Aufmerksamkeit erregte dabei der Angriff auf Hugging Face: Mehrere KI-Agenten waren aus ihrer geschützten Testumgebung ausgebrochen und hatten sich selbstständig Zugriff zu den Systemen der Plattform verschafft. Laut Unternehmensangaben hätten die Modelle ein internes Forum zum Austausch genutzt und dabei offenbar auch begonnen, sich gegenseitig Aufgaben zuzuweisen. Mehrere der Vorfälle blieben über Monate hinweg unbemerkt. Außerdem hätte das Unternehmen die Betroffenen nicht immer unverzüglich benachrichtigt. So erklärte der australische Premierminister Anthony Albanese am Rande der UN-Generalversammlung, es habe „viel zu lange” gedauert, bis OpenAI die australische Regierung informierte. Der Zugriff auf das Medicare-Portal habe sich schon im Juni ereignet. Trotzdem habe man die Behörden erst im September per E-Mail an ein öffentliches Postfach informiert. Empfohlene redaktionelle Inhalte Hier findest du externe Inhalte von TargetVideo GmbH, die unser redaktionelles Angebot auf t3n.de ergänzen. Mit dem Klick auf "Inhalte anzeigen" erklärst du dich einverstanden, dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen dürfen. Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden. Inhalte anzeigen Hinweis zum Datenschutz Leider ist etwas schief gelaufen... An dieser Stelle findest du normalerweise externe Inhalte von TargetVideo GmbH, jedoch konnten wir deine Consent-Einstellungen nicht abrufen. Lade die Seite neu oder passe deine Consent-Einstellungen manuell an. Datenschutzeinstellungen verwalten Inzwischen setzt sich OpenAI selbst für eine strengere KI-Regulierung ein. Ursprünglich hatte sich das Unternehmen noch gegen den Gesetzentwurfs SB 53 gewehrt. Inzwischen unterstützt es sogar eine Ausweitung der vorgesehenen Sicherheitsmaßnahmen. Der Gesetzentwurfs würde Entwickler:innen von Pioniermodellen unter anderem dazu verpflichten, Sicherheitsrahmenwerke zu entwickeln. Außerdem müssten sie Sicherheitsberichte veröffentlichen, bevor diese Modelle zum Einsatz kommen dürften. Startseite