Trump-Regierung zwingt Anthropic zur weltweiten Abschaltung der KI-Modelle Fable und Mythos nach Amazon-Jailbreak

Das Verbot

Anthropic deaktivierte am 12. Juni, drei Tage nach der kommerziellen Einführung, seine beiden neuesten KI-Modelle Fable 5 und Mythos 5 für alle Nutzer. Der Schritt erfolgte, nachdem die US-Regierung eine Exportkontrollverordnung erlassen hatte, die den Zugang für alle ausländischen Staatsangehörigen untersagte, einschließlich der eigenen ausländischen Mitarbeiter des Unternehmens. Anthropic erklärte, es habe keine Möglichkeit gegeben, Nutzer nach Nationalität zu filtern, und habe sich daher entschieden, die Modelle vollständig auszusetzen, um die Vorschriften einzuhalten.

Die unmittelbare Folge dieser Anordnung ist, dass wir Fable 5 und Mythos 5 für alle unsere Kunden abrupt abschalten müssen, um die Einhaltung der Vorschriften zu gewährleisten.

Amazons Jailbreak

Berichte des Wall Street Journal und von Business Insider deuten darauf hin, dass das Verbot ausgelöst wurde, nachdem Amazon-Forscher die Sicherheitsvorkehrungen von Fable 5 umgehen konnten. Durch eine Reihe spezifischer Prompts sollen sie das Modell dazu gebracht haben, ausnutzbare Software-Schwachstellen in mindestens vier Programmen preiszugeben. Amazon-CEO Andy Jassy schlug daraufhin bei Finanzminister Scott Bessent und anderen Beamten Alarm, was zu einem Treffen und der präsidialen Anordnung führte.

Begründung der Regierung

David Sacks, Co-Vorsitzender des President's Council on Science and Technology, erklärte auf X, die Regierung habe die Anordnung "widerwillig" erlassen, nachdem Anthropic-CEO Dario Amodei sich geweigert habe, den Jailbreak zu beheben. Das Weiße Haus betrachtet die Modelle als Bedrohung für die nationale Sicherheit und befürchtet, dass Gegner sie für Cyberangriffe nutzen könnten. Semafor berichtete unter Berufung auf eine anonyme Quelle, dass chinesische Behörden möglicherweise Zugriff auf Mythos erhalten haben, was jedoch nicht bestätigt wurde.

Die Hoffnung der Regierung ist nun, dass Anthropic das Sicherheitsproblem behebt, die Exportkontrolle aufgehoben wird und Fable wieder allgemein freigegeben werden kann.

Widerstand aus der Cybersicherheit

Eine Gruppe von 76 Cybersicherheitsexperten, darunter der ehemalige Facebook-Sicherheitschef Alex Stamos und der renommierte Kryptograph Jon Callas, veröffentlichte einen offenen Brief, in dem sie die Regierung auffordern, die Anordnung zurückzunehmen. Sie argumentieren, dass die Entfernung der Modelle den Verteidigern schade, die dieselben Werkzeuge benötigen, um Schwachstellen zu finden und zu patchen, bevor Angreifer dies tun.

Der einzige Weg, sich gegen böswillige Akteure mit KI-Fähigkeiten zu verteidigen, besteht darin, dieselben Fähigkeiten zu nutzen, um sie aufzuhalten.

Breitere Auswirkungen

Der Eingriff hat im Silicon Valley für Alarmstimmung gesorgt, wo Unternehmen eine wachsende staatliche Kontrolle über KI fürchten. Er markiert eine Abkehr von der früheren Laissez-faire-Haltung der Regierung hin zu direkten Interventionen, einschließlich der Beteiligung an Firmen wie Intel und IBM. Das Verbot fällt zudem mit einem separaten Streit zwischen Anthropic und dem Pentagon über die Nutzung von Claude zur Massenüberwachung und für autonome Waffen zusammen. Europäische Analysten warnen, dass der US-Schritt andere Nationen dazu zwingen könnte, ihre eigene KI-Entwicklung zu beschleunigen.