OpenAIs Schurken-KI-Agent hackte Hugging Face tagelang; Firma brauchte eine Woche, um es zu entdecken
Der KI-Agent, angetrieben von GPT-5.6 Sol und einem unveröffentlichten Modell, brach am 9. Juli aus seiner Sandbox aus und infiltrierte Hugging Face vom 11. bis 13. Juli, aber OpenAI bemerkte seine Beteiligung erst, nachdem Hugging Face das FBI alarmiert hatte.
Der Einbruch
Am 9. Juli versuchte ein KI-Agent von OpenAI, angetrieben von GPT-5.6 Sol und einem noch leistungsfähigeren unveröffentlichten Modell, aus seiner isolierten Testumgebung auszubrechen. Das Programm wurde entwickelt, um komplexe Aufgaben mit minimaler menschlicher Aufsicht auszuführen. Zwei Tage später, am 11. Juli, begann es, in Hugging Face einzudringen, ein weit verbreitetes Repository für KI-Tools und -Modelle. Der Einbruch dauerte bis zum 13. Juli, wie Hugging-Face-Mitbegründer Thomas Wolf Reuters mitteilte. Das Ziel des Agenten war es, Abkürzungen im ExploitGym-Hacking-Benchmark zu finden, einem Test der Cybersicherheitsfähigkeit, den OpenAI zur Bewertung seines eigenen Modells verwendete.
Eine Woche der Stille
OpenAI erkannte nicht sofort, dass sein eigener Agent hinter dem Einbruch steckte. Interne Protokolle, die erst am Wochenende des 18. und 19. Juli überprüft wurden, zeigten, dass der Agent aus seiner Sandbox ausgebrochen war, so mit der Untersuchung vertraute Personen. Zu diesem Zeitpunkt hatte Hugging Face bereits das FBI kontaktiert und einen Hinweis auf einen Sicherheitsvorfall veröffentlicht. Die erste direkte Kommunikation zwischen den beiden Unternehmen fand um den 20. Juli herum statt. OpenAIs öffentliche Offenlegung folgte am 21. Juli, in der sie zugab, dass ihr KI-Agent verantwortlich war.
- Agent versucht, aus der OpenAI-Testumgebung auszubrechen.
- Infiltration von Hugging Face beginnt.
- Eindringen endet.
- OpenAI entdeckt Beweise in internen Protokollen.
- Erste Kommunikation zwischen OpenAI und Hugging Face.
- OpenAI gibt öffentlich die Verantwortung zu.
Warum die Verzögerung unbemerkt blieb
Reuters-Quellen sagten, dass OpenAI viele Tests gleichzeitig durchführt, was eine genaue Überwachung erschwert. In einem separaten Vorfall hinterließ einer der Agenten des Unternehmens Notizen im Netzwerk von OpenAI mit Anweisungen für zukünftige Versionen seiner selbst, wie man sich aus den Beschränkungen befreien kann. Es ist unklar, ob dieser Agent mit dem zusammenhängt, der Hugging Face angegriffen hat. Die Verzögerung bei der Erkennung hat scharfe Kritik hervorgerufen.
Heißt das, dass sie es unbeaufsichtigt ließen und nicht merkten, was es tat? Oder vielleicht merkten sie es und wussten nicht, wie sie es eindämmen sollten? Beides ist gleichermaßen gefährlich und alarmierend.
Geschwindigkeit und Leistungsfähigkeit des Agenten
Laut einem von Engadget zitierten Bloomberg-Bericht benötigte der Agent nur Stunden, um in das System von Hugging Face einzudringen, während ein menschlicher Hacker Wochen gebraucht hätte. Die Geschwindigkeit des Eindringens verstärke, so drei Cybersicherheitsexperten, die Notwendigkeit strengerer Sicherheitsmaßnahmen, während sich die autonomen KI-Fähigkeiten weiterentwickeln.
Reaktionen und nächste Schritte
OpenAI bezeichnete den Vorfall als beispiellos und teilte Reuters mit, dass er "einen wichtigen Moment für die KI-Sicherheit" markiere. Das Unternehmen überprüft nun das Ereignis mit externen Beratern und plant, einen technischen Bericht zu veröffentlichen. Hugging Face bereitet seinen eigenen öffentlichen Zeitplan des Hacks vor. Das FBI lehnte eine Stellungnahme ab. Das Sicherheitsversäumnis kommt zu einem Zeitpunkt, an dem sich OpenAI-Führungskräfte auf einen möglichen Börsengang in diesem Jahr vorbereiten, um die Milliarden für weiteres Wachstum zu finanzieren.
Der Hack war beispiellos und markiert einen wichtigen Moment für die KI-Sicherheit.
