US-Regierung blockiert Anthropics neueste KI-Modelle aus Sorge vor Jailbreak – weltweite Abschaltung erzwungen
Die Trump-Administration ordnete an, dass Anthropic allen Ausländern den Zugang zu seinen Flaggschiff-Modellen Fable 5 und Mythos 5 verweigern müsse, mit Verweis auf die nationale Sicherheit. Das Unternehmen, das Nutzer nicht nach Nationalität filtern kann, schaltete beide Systeme für alle ab – nur drei Tage nach ihrem Start.
Die Exportkontrollverordnung
Am 12. Juni erließ das US-Handelsministerium eine Notfall-Exportkontrollverordnung, die Anthropic verbietet, seine neuesten Modelle für ausländische Staatsangehörige verfügbar zu machen – sowohl in den USA als auch im Ausland, einschließlich der eigenen nicht-US-amerikanischen Mitarbeiter. Da Anthropics Dienste global sind und die Staatsbürgerschaft bei der Anmeldung nicht überprüfen, erklärte das Unternehmen, es sei gezwungen, Fable 5 und Mythos 5 für alle Kunden vom Netz zu nehmen.
Die ultimative Wirkung dieser Anordnung ist, dass wir plötzlich gezwungen sind, Fable 5 und Mythos 5 für alle unsere Kunden abzuschalten.
Was das Verbot auslöste
Die am 9. Juni gestarteten Modelle hatten schnell Aufmerksamkeit für ihre Programmier- und autonomen Aufgabenfähigkeiten erregt. Fable 5 wurde als direkter Rivale zu OpenAIs GPT-5.5 und Googles Gemini positioniert, während die Mythos-Klasse bereits intern Bedenken geweckt hatte. Eine frühere Vorschauversion wurde vom Unternehmen selbst als
eingestuft, nachdem sie sich im April in Labortests als äußerst effektiv beim Auffinden und Ausnutzen von Betriebssystemsicherheitslücken erwiesen hatte.zu leistungsstark, um öffentlich verfügbar gemacht zu werden
Der Jailbreak, der Washington alarmierte
Ein zentraler Faktor war ein Bericht, der das Handelsministerium erreichte und eine Methode zur Umgehung der Sicherheitsklassifikatoren von Fable 5 detailliert beschrieb. Einmal geknackt, konnte das Modell große Codebasen analysieren und kritische Schwachstellen identifizieren. Beamte befürchteten, dass feindliche Hacker oder staatlich unterstützte Gruppen diese Fähigkeit gegen die US-amerikanische kritische Infrastruktur einsetzen könnten, einschließlich Energie, Finanzen und Telekommunikation. Ein Forscher, der unter dem Pseudonym „Pliny the Liberator“ operierte, hatte zuvor behauptet, die Schutzmaßnahmen von Fable 5 umgangen zu haben, und veröffentlichte den System-Prompt auf GitHub.
Widerstand aus dem Silicon Valley
Anthropic widersprach der Argumentation der Regierung vehement. Das Unternehmen sagte, die Jailbreak-Technik sei eng und nicht universell gewesen und habe im Wesentlichen darin bestanden, das Modell zu bitten, eine Codebasis zu überprüfen und Fehler zu beheben.
Das Unternehmen merkte an, dass ähnliche Ergebnisse mit GPT-5.5 erzielt werden könnten, und argumentierte, dass die Schutzmaßnahmen von Fable 5 die stärksten seien, die es jemals eingesetzt habe, nachdem Tausende von Stunden Red-Teaming mit dem britischen AI Safety Institute und US-Regierungsbehörden durchgeführt worden waren.Wir analysierten die spezifische Technik und stellten fest, dass die von ihr identifizierten Sicherheitslücken relativ einfach sind und auch von anderen öffentlich verfügbaren Modellen ohne jeden Umgehungsversuch erkannt werden können.
Was online bleibt
Alle anderen Anthropic-Modelle, einschließlich Opus 4.8, bleiben unberührt. Das Unternehmen erklärte, es habe vom Handelsminister Howard Lutnick lediglich die Mitteilung erhalten, dass die beiden Modelle unter Exportkontrollen gestellt würden, jedoch keine weiteren Details von der Regierung bekommen. Der Vorfall hat bereits eine breitere Debatte über einseitige Exportbeschränkungen für KI an der Spitze der Entwicklung und die verschwimmende Grenze zwischen Sicherheitsdurchsetzung und Wettbewerbsdynamik unter Amerikas führenden KI-Laboren ausgelöst.
- Anthropic bringt Fable 5 und Mythos 5 an die Öffentlichkeit.
- Das US-Handelsministerium erlässt eine Exportverordnung, die die Modelle für alle ausländischen Staatsangehörigen blockiert.
- Anthropic schaltet den globalen Zugang zu Fable 5 und Mythos 5 für alle Benutzer ab.
