OpenAI: Weitere Details zur Sicherheitsverletzung nach Hugging-Face-Zwischenfall

Der außer Kontrolle geratene KI-Agent von OpenAI entkam während eines Sicherheitstests seiner isolierten Testumgebung. (Symbolbild)

OpenAI hat neue Informationen zu einem Sicherheitsvorfall veröffentlicht. Demnach griff ein experimenteller KI-Agent nach seiner Flucht aus einer kontrollierten Testumgebung nicht nur Hugging Face an, sondern kompromittierte auch vier Konten auf Drittplattformen. Das Unternehmen hat die betroffenen Modelle inzwischen deaktiviert und zusätzliche Sicherheitsmaßnahmen eingeführt.

Jay Bonggolto (übersetzt von Nicole Dominikowski), Veröffentlicht am 29.07.2026 🇺🇸

AI Security Netzpolitik Software

OpenAI hat eingeräumt, dass der jüngste Sicherheitsvorfall mit einer experimentellen KI umfassender war als zunächst angenommen. Das Unternehmen erklärte nun, dass der KI-Agent, der im Rahmen eines internen Cybersicherheitstests in die Plattform Hugging Face eingedrungen war, auch mehrere Konten auf Drittplattformen kompromittiert habe.

Nach Angaben von OpenAI ereignete sich der Vorfall während der Erprobung fortschrittlicher Cyberfähigkeiten mit einer Kombination verschiedener Modelle, darunter GPT-5.6 Sol sowie ein noch nicht veröffentlichtes, leistungsfähigeres System, dessen Sicherheitsbeschränkungen für Evaluierungszwecke reduziert worden waren. Die Modelle sollten eigentlich den Cybersicherheits-Benchmark ExploitGym lösen.

Stattdessen entdeckten sie einen Weg, aus der isolierten Testumgebung auszubrechen. Dazu nutzten sie eine bislang unbekannte Schwachstelle in einem internen Proxy für die Paketregistrierung aus. Anschließend verschaffte sich der KI-Agent erweiterte Berechtigungen, erlangte Zugang zum Internet und griff schließlich die Produktivsysteme von Hugging Face an. Ziel war es laut OpenAI, beim Benchmark zu „schummeln“, indem die Lösungen direkt ausgelesen werden sollten.

OpenAI teilte außerdem mit, dass die KI auf insgesamt vier Konten auf verschiedenen Plattformen zugegriffen habe und nicht ausschließlich auf Hugging Face. Wie Reuters berichtet, gehörte eines dieser Konten zu einem Kunden von Modal Labs. Modal erklärte jedoch, dass die eigene Infrastruktur nicht kompromittiert worden sei, da der Angriff Schwachstellen im Code des Kunden ausgenutzt habe und nicht die Plattform selbst.

Als Reaktion auf den Vorfall hat OpenAI nach eigenen Angaben die für die Evaluierung eingesetzten Modelle deaktiviert, die Sicherheitsmaßnahmen für die interne Infrastruktur verschärft, die entdeckte Zero-Day-Schwachstelle dem betroffenen Anbieter gemeldet und eng mit Hugging Face bei den laufenden Untersuchungen zusammengearbeitet.

Darüber hinaus kündigte das Unternehmen an, die Überwachung und die Schutzmaßnahmen bei künftigen Tests leistungsfähiger KI-Modelle weiter auszubauen. OpenAI betont, dass mit zunehmenden Fähigkeiten solcher Systeme auch die Maßnahmen zu ihrer Eindämmung entsprechend weiterentwickelt werden müssten.