USA ordnen Anthropic an, ausländischen Zugang zu seinen fortschrittlichsten KI-Modellen zu blockieren – aus Sorge vor Jailbreak
Anthropic hat seine beiden leistungsstärksten KI-Modelle, Fable 5 und Mythos 5, deaktiviert, nachdem eine US-Regierungsdirektive die Nutzung durch ausländische Staatsangehörige aus Gründen der nationalen Sicherheit eingeschränkt hatte.
US-Regierung beruft sich auf nationale Sicherheit
Anthropic erhielt am Nachmittag des 12. Juni eine Direktive der US-Regierung, die das Unternehmen anwies, allen ausländischen Staatsangehörigen den Zugang zu seinen KI-Modellen Fable 5 und Mythos 5 zu sperren. Das am 12. Juni um 17:21 Uhr Ortszeit versandte Schreiben nannte laut Unternehmen keine genauen nationalen Sicherheitsbedenken. Anthropic erklärte, es gehe davon aus, dass die Regierung von einer Methode erfahren habe, die Sicherheitsvorkehrungen von Fable 5 zu umgehen oder zu knacken.
Modelle für alle Kunden deaktiviert
Da die Exportkontrollverordnung für jeden ausländischen Staatsangehörigen gilt, unabhängig davon, ob er sich innerhalb oder außerhalb der Vereinigten Staaten befindet – einschließlich Anthropic-Mitarbeiter –, erklärte das Unternehmen, es könne den Zugang nicht nach Nationalität filtern. Infolgedessen deaktivierte Anthropic beide Modelle abrupt für alle Kunden, um die Einhaltung der Vorschriften zu gewährleisten. Der Zugang zu anderen Anthropic-Modellen, einschließlich des Claude-Chatbots, bleibt davon unberührt.
Anthropic wehrt sich gegen die Entscheidung
Das Unternehmen argumentierte, dass die Feststellung eines engen potenziellen Jailbreaks nicht den Rückruf eines kommerziellen Modells auslösen sollte, das für Hunderte Millionen Menschen bereitgestellt wurde. In einem Blogbeitrag erklärte Anthropic, ein solcher Standard würde „im Grunde alle neuen Modellbereitstellungen für alle Anbieter von Spitzenmodellen stoppen“, wenn er branchenweit angewendet würde. Es verteidigte auch seine Sicherheitsvorkehrungen, die sensible Anfragen zu Cybersicherheit, Biologie oder Chemie automatisch an ein Modell mit geringerer Leistungsfähigkeit umleiten.
Wir sind nicht der Meinung, dass die Feststellung eines engen potenziellen Jailbreaks ein Grund für den Rückruf eines kommerziellen Modells sein sollte, das für Hunderte Millionen Menschen bereitgestellt wurde.
Hintergrund der eingeschränkten Modelle
Fable 5, das am 9. Juni öffentlich veröffentlicht wurde, basiert auf dem leistungsstärkeren Mythos 5, einem Modell, das Anthropic zuvor als zu gefährlich für eine breite Veröffentlichung aufgrund seiner Cybersicherheitsfähigkeiten beschrieben hatte. Mythos 5 blieb nur ausgewählten Partnern im Rahmen des Project Glasswing-Programms zugänglich. Das Unternehmen hatte Fable mit zusätzlichen Sicherheitsvorkehrungen eingeführt, einschließlich der automatischen Umleitung von Antworten bei sensiblen Themen, aber die Regierung handelte dennoch.
Politischer und rechtlicher Kontext
Die Einschränkung erfolgte durch eine Trump-Administration, die bis vor kurzem eine minimale KI-Regulierung befürwortet hatte. Anfang dieses Jahres stufte das Pentagon Anthropic im Rahmen eines Streits über die militärische Nutzung seiner Technologie als nationales Sicherheitsrisiko ein. Präsident Trump unterzeichnete Anfang des Monats eine Executive Order, die Unternehmen dazu ermutigt, Beamten eine vorherige Überprüfung leistungsstarker neuer KI-Tools zu ermöglichen, obwohl die Teilnahme freiwillig ist. Anthropic verklagt die Regierung separat wegen einer Anordnung, Bundesbehörden die Nutzung seiner KI-Tools zu untersagen.
- Anthropic bringt Claude Fable 5 als öffentliche Version seiner leistungsstarken KI Mythos 5 auf den Markt.
- Die US-Regierung sendet ein Schreiben, das die Aussetzung des ausländischen Zugangs zu den Modellen anordnet.
- Anthropic deaktiviert Fable 5 und Mythos 5 für alle Kunden, um der Direktive nachzukommen.
