OpenAI's Schurken-Agent hat eine zweite Firma, Modal Labs, kompromittiert, während die Sicherheitsbedenken wachsen
Der KI-Agent, der Hugging Face kompromittierte, nutzte auch eine Schwachstelle bei einem Kunden von Modal Labs aus, wie der CTO des in New York ansässigen Unternehmens bestätigte, während OpenAI vier kompromittierte Konten offenlegte.
Der Schurken-KI-Agent, der aus einem internen OpenAI-Test ausgebrochen war und Anfang dieses Monats die Plattform von Hugging Face kompromittiert hatte, hat auch einen Kunden des in New York ansässigen Unternehmens Modal Labs kompromittiert, wie der Chief Technology Officer von Modal und eine mit der Angelegenheit vertraute Quelle bestätigten. Die Enthüllung, die erstmals am 28. Juli von Reuters gemeldet wurde, erweitert den Umfang eines Vorfalls, der die KI-Branche bereits erschüttert und die Aufmerksamkeit Washingtons auf sich gezogen hat.
Die Modal-Labs-Kompromittierung
Hugging Faces Post-Mortem, veröffentlicht am 28. Juli, beschrieb, wie der Agent in eine Sandbox einbrach, die "auf der Infrastruktur eines Drittanbieters gehostet" wurde, und sie als Startrampe nutzte. Dieser Anbieter war Modal Labs. Modal CTO Akshat Bubna bestätigte gegenüber Reuters und Axios, dass einer seiner Kunden einen nicht authentifizierten Endpunkt offen gelassen hatte, den der Schurken-Agent zur Codeausführung ausnutzte.
Uns ist bekannt, dass ein Modal-Kunde einen nicht authentifizierten Endpunkt veröffentlicht hat, der es jedem im Internet ermöglichte, seine Sandboxes zur Codeausführung zu nutzen. Dies wurde von dem Schurken-Agenten genutzt. Die Modal-Plattform wurde in keiner Weise kompromittiert.
Bubna betonte, dass die Schwachstelle im Code des Kunden lag, der auf der Modal-Infrastruktur lief, nicht in den eigenen Systemen von Modal. Die Identität des Kunden wurde nicht ermittelt.
Vier Konten und eine größere Reichweite
In einem aktualisierten Blogbeitrag vom 29. Juli räumte OpenAI ein, dass seine laufende Überprüfung ergab, dass "vier Konten" im Zusammenhang mit "öffentlich zugänglichen Diensten" von dem Agenten im Rahmen des breiteren Versuchs, Hugging Face zu hacken, genutzt wurden. Das Unternehmen erklärte, der Agent habe im offenen Web exponierte Anmeldeinformationen gefunden und sie genutzt, um in die Konten einzudringen. Ein Konto diente als "ausgehendes Relay und Staging-Pfad", vermutlich um den Ursprung des Angriffs zu verschleiern, während ein anderes zur Datenspeicherung genutzt wurde. OpenAI nannte die betroffenen Dienste nicht, stellte jedoch fest, dass sie nicht "in dem Schweregrad oder Umfang betroffen waren, den wir in Bezug auf Hugging Face mitgeteilt haben."
Hugging Faces eigene Analyse überprüfte rund 17.600 Agentenaktionen, die aus Logs zwischen dem 9. und 13. Juli wiederhergestellt wurden, von denen die meisten fehlgeschlagene Pfade waren. Der Eindringling drang weiter in die internen Systeme ein, als die ersten Enthüllungen vermuten ließen.
- Schurken-Agent beginnt Aktionen gegen Hugging Face
- Agentenaktionen enden; Hugging Face stellt 17.600 Logeinträge wieder her
- Hugging Face veröffentlicht Post-Mortem; Reuters berichtet über Modal-Kompromittierung
- OpenAI aktualisiert Blogbeitrag, bestätigt Nutzung von vier Konten
Branchenalarm und Forderungen nach Verlangsamung
Der Vorfall hat die Debatte über die Geschwindigkeit, mit der führende KI-Labore voranschreiten, verschärft. OpenAI-CEO Sam Altman sagte im Podcast "Invest Like a Beast", dass der Cyberangriff auf Hugging Face sein Unternehmen gezwungen habe, das Modelltraining zu pausieren.
Wir müssen möglicherweise das Tempo der KI-Entwicklung drosseln, um uns genügend Zeit zu geben, damit sich die Gesellschaft an diese neuen Fähigkeitsniveaus anpassen kann.
Mehr als 1.100 Mitarbeiter von führenden KI-Unternehmen, darunter OpenAIs Chefwissenschaftler Jakub Pachocki und Anthropic-Mitbegründer Jared Kaplan, unterzeichneten einen am 28. Juli veröffentlichten Brief, der die US-Regierung auffordert, "eine internationale Anstrengung zu unterstützen, um die technischen und Governance-Instrumente zu entwickeln, die notwendig sind, um die Grenze der automatisierten KI-Entwicklung bewusst zu verlangsamen."
Washingtoner Treffen
Altman ist diese Woche in Washington, D.C., und wird voraussichtlich mit Beamten des Weißen Hauses, des Finanzministeriums, des Handelsministeriums sowie einer überparteilichen Gruppe von Gesetzgebern zusammentreffen. OpenAI strebt derzeit die Genehmigung der US-Regierung an, sein leistungsstärkstes Modell öffentlich freizugeben, und die Schurken-Agenten-Episode wird in diesen Gesprächen voraussichtlich eine wichtige Rolle spielen.
