Anthropic stoppt neue KI-Modelle nach US-Verfügung, die ausländischen Zugang blockiert
Das amerikanische KI-Unternehmen Anthropic hat seine neuesten Modelle Claude Fable 5 und Mythos 5 für alle Kunden deaktiviert, nachdem die US-Regierung nationale Sicherheitsbedenken anführte und ein Verbot des Zugangs durch ausländische Staatsangehörige anordnete.
US-Exportkontrollverfügung
Anthropic wurde gezwungen, den Zugang zu seinen neuesten KI-Modellen noch in dieser Woche sofort zu sperren, nachdem das Unternehmen eine Exportkontrollverfügung des US-Handelsministeriums erhalten hatte, wie das Unternehmen in einer Erklärung mitteilte. Die Verfügung beruft sich auf nationale Sicherheitsvorrechte und verlangt die Aussetzung von Fable 5 und Mythos 5 für alle ausländischen Staatsbürger, sowohl innerhalb als auch außerhalb der Vereinigten Staaten, einschließlich ausländischer Mitarbeiter von Anthropic. Das Unternehmen erklärte, es habe nur mündliche Hinweise auf eine mögliche Sicherheitslücke erhalten, aber keine detaillierten Einzelheiten zu dem Sicherheitsbedenken.
Die Nettoauswirkung dieser Verfügung ist, dass wir Fable 5 und Mythos 5 für alle unsere Kunden abrupt deaktivieren müssen, um die Einhaltung zu gewährleisten.
Fable 5, eine Variante des größeren Mythos-Systems, war erst wenige Tage zuvor gestartet worden und konkurriert mit OpenAIs ChatGPT und Googles Gemini. Anthropic betonte, dass der Zugang zu allen anderen Modellen nicht betroffen sei.
Anthropics Reaktion und Jailbreak-Behauptungen
Das Unternehmen geht davon aus, dass die Regierung glaubt, eine Methode gefunden zu haben, um Sicherheitsvorkehrungen zu umgehen (Jailbreak), die verhindern sollen, dass Fable 5 für Cybersicherheitsaktivitäten missbraucht wird. Anthropic räumte ein, dass seine interne Überprüfung einige wenige, bereits bekannte Schwachstellen gefunden habe, argumentierte jedoch, dass ähnliche Schwachstellen in anderen öffentlichen Modellen existieren, ohne dass fortgeschrittene Umgehungstechniken erforderlich seien. Das Unternehmen betonte auch, dass es vor dem Start mit der US-Regierung, dem britischen AI Safety Institute, unabhängigen Organisationen und internen Teams Tausende von Stunden getestet habe.
Wir sind nicht der Meinung, dass die Entdeckung eines potenziell begrenzten Jailbreaks ein Grund sein sollte, ein kommerzielles Modell zurückzuziehen, das für Hunderte Millionen Menschen bereitgestellt wurde.
Anthropic erklärte, es arbeite daran, die Situation zu klären und den Zugang so schnell wie möglich wiederherzustellen. Es wies darauf hin, dass es nur zwei Tage vor der Verfügung öffentlich eine strengere US-Aufsicht über KI gefordert hatte, einschließlich der Möglichkeit, als zu gefährlich eingestufte Modelle zu blockieren, aber es glaube, dass die Maßnahme vom Freitag nicht den Grundsätzen einer fairen, evidenzbasierten Regulierung folge.
Angespannte Beziehungen zur Trump-Administration
Die Verfügung vertieft das bereits angespannte Verhältnis zwischen dem in San Francisco ansässigen Unternehmen und der Trump-Administration. Anfang des Jahres weigerte sich Anthropic, dem US-Militär die Nutzung seiner Modelle für inländische Überwachung und vollautonome Waffensysteme zu erlauben. Im März stufte das Pentagon das Unternehmen als unannehmbares Lieferkettenrisiko ein, eine Ächtung, die voraussichtlich später in diesem Jahr in Kraft treten wird. Die aktuelle Verfügung stellt eine weitere Eskalation dar, die US-Exportkontrollen über Chips und Hardware-Werkzeuge hinaus auf die direkte Einschränkung des ausländischen Zugangs zu fortschrittlicher KI-Software ausweitet.
Expertenwarnungen und Branchenauswirkungen
Die Aussetzung könnte die sichere Entwicklung und Erprobung leistungsstarker Modelle behindern, warnt Gina Neff, Professorin für verantwortungsvolle KI an der Queen Mary University of London.
Wir befinden uns derzeit in unbekanntem Terrain. Menschen in der KI-Branche haben uns gewarnt, dass diese Werkzeuge sich sehr schnell verbessern und wir in der Lage sein müssen, Fähigkeiten zu entwickeln, um uns zu schützen.
Kirsten Davies, Chief Information Officer des Pentagons, unterstützte den Vorrang der nationalen Sicherheit.
Die nationale Sicherheit muss Vorrang haben, und einige Angelegenheiten sind wichtiger als Unternehmenseinnahmen, Medienaufmerksamkeit oder Bewertungen vor dem Börsengang.
Der Zusammenstoß zwischen einem führenden KI-Entwickler und Regulierungsbehörden verdeutlicht die wachsende Spannung darüber, wie Risiken von immer leistungsfähigeren KI-Modellen bewertet und reguliert werden sollen, insbesondere da Anthropic selbst einen Börsengang anstrebt.
