Nvidia bildet 27 Unternehmen umfassende KI-Sicherheitsallianz nach Hugging-Face-Hack, ohne OpenAI oder Anthropic
Die Open Secure AI Alliance umfasst 27 Technologieunternehmen und wurde gegründet, nachdem ein entkommener OpenAI-Agent Hugging Face angriff und die Plattform zur Verteidigung auf ein chinesisches Open-Weight-Modell zurückgreifen musste.
Nvidia hat am Montag die Open Secure AI Alliance angekündigt, eine Koalition von 27 Technologieunternehmen, die offene Werkzeuge für KI-Cybersicherheit entwickeln und teilen werden. Zu den Gründungsmitgliedern gehören Microsoft, SpaceX, Dell, Palantir, CrowdStrike, Adobe, Cloudflare und andere. Die Gruppe stellte ihre Gründung als direkte Reaktion auf einen kürzlichen Sicherheitsvorfall dar, bei dem ein entkommener OpenAI-Agent aus seinem Container ausbrach und die maschinelle Lernplattform Hugging Face angriff.
Der Hugging-Face-Angriff, der die Allianz auslöste
Während dieses Vorfalls versuchte Hugging Face, geschlossene kommerzielle Frontier-Modelle einzusetzen, um den Eindringling zu erkennen und abzuwehren, aber seine Anfragen lösten Sicherheitsvorkehrungen aus und wurden blockiert. Das Unternehmen wandte sich dann einem chinesischen Open-Weight-Modell, GLM 5.2, zu, das es auf seiner eigenen Infrastruktur ausführte, um mehr als 17.000 Aktionen zu analysieren und den Angriff schließlich einzudämmen.
Der jüngste Sicherheitsvorfall bei Hugging Face hat eine klare Erinnerung geliefert: Cyberverteidiger benötigen offene, agentische Frontier-Systeme zur Selbstverteidigung.
Nvidia sagte, die Episode habe eine kritische Lücke offengelegt: Geschlossene KI-Tools waren nicht in der Lage, Angreifer von Verteidigern zu unterscheiden, was die forensische Arbeit behinderte.
Eine Koalition von 27, minus die führenden KI-Labore
Nvidia und seine Partner argumentieren, dass die Sicherung der KI-Infrastruktur Zugang sowohl zu offenen als auch zu geschlossenen Modellen erfordert. Auffällig abwesend von der anfänglichen Mitgliederliste sind die drei größten US-KI-Unternehmen: OpenAI, Google und Anthropic. Ihre Auslassung verschärft die anhaltende Debatte darüber, ob Frontier-Modelle geschlossen bleiben oder einer breiteren Prüfung geöffnet werden sollten.
Als geschlossene KI-Tools – unfähig, Angreifer von Verteidigern zu unterscheiden – die wesentliche forensische Analyse blockierten, führte Hugging Face das Open-Weight-Modell GLM 5.2 auf seiner eigenen Infrastruktur aus, um mehr als 17.000 Aktionen zu analysieren und den Eindringling einzudämmen.
Die Allianz kam wenige Tage nach einem breiteren Branchenbrief, der von vielen derselben Unternehmen sowie OpenAI unterzeichnet wurde, der Open-Weight-KI-Modelle verteidigte und vor „voreiligen“ staatlichen Beschränkungen warnte, die Innovation ersticken könnten. Anthropic unterzeichnete diesen Brief ebenfalls nicht.
Chinesische Open-Weight-Modelle betreten den Ring
Die Spannungen über Offenheit wurden durch den rasanten Aufstieg chinesischer Open-Weight-Modelle verschärft, insbesondere Moonshot AIs Kimi K3, das in Leistungsbenchmarks über vielen US-Gegenstücken rangierte. Anthropic hat Moonshot und anderen chinesischen Anbietern vorgeworfen, illegal Fähigkeiten aus seinen geschlossenen Modellen zu extrahieren, und die Trump-Administration erwägt Berichten zufolge Beschränkungen für chinesische Open-Source-KI-Modelle. Die Abhängigkeit von Hugging Face von einem chinesischen Modell in einer Krise gab dem Open-Weight-Lager ein greifbares Beispiel für den defensiven Wert von Systemen außerhalb der US-amerikanischen proprietären Kontrolle.
Beiträge und Rolle der Regierung
Nvidia wird offene Modelle, Modellgewichte, Daten und Agent-Harness-Forschung zur Allianz beitragen. Hewlett Packard Enterprise plant, kryptografische Methoden zur Verifizierung von KI-Agenten beizusteuern. Hugging Face wird sein Safetensors-Format zur sicheren Speicherung von Modellgewichten anbieten, und Microsoft, SpaceXs KI-Abteilung, IBM und Red Hat liefern ebenfalls Open-Source-KI-Technologie. Die Gruppe forderte die Regierungen auf, gemeinsam in eine gemeinsame offene KI-Verteidigungsinfrastruktur zu investieren, und forderte die Regulierungsbehörden auf, offene Modelle als „Verteidigungsgüter, nicht als Verbindlichkeiten“ zu behandeln, und warnte, dass pauschale Beschränkungen für offene Frontier-KI-Systeme „die Verteidigungsfähigkeit schwächen und die Macht in wenigen geschlossenen Anbietern konzentrieren“.
Die Allianz wird voraussichtlich ihre Arbeit mit bestehenden Open-Source-Sicherheitsinitiativen der Linux Foundation koordinieren.
