Weißes Haus und Anthropic scheitern bei Aufhebung des Exportverbots für KI-Modell Claude Fable 5
Die Verhandlungen zwischen Anthropic und der Trump-Administration über Beschränkungen für das Modell Claude Fable 5 endeten am Montag ohne Einigung. Damit bleibt die erste erzwungene Abschaltung eines KI-Modells in Kraft.
Hintergrund der Spannungen
Das Weiße Haus hatte bereits Wochen vor Verhängung des Exportverbots das Vertrauen in Anthropic verloren, wie ungenannte Beamte gegenüber der Washington Post erklärten. Der Konflikt drehte sich um ethische Beschränkungen, die das Unternehmen für potenziell katastrophale KI-Risiken aufrechterhielt, wobei Regierungsvertreter bereits lange vor der Anordnung vom Freitag Sanktionen prüften.
Die Gefahr durch Jailbreaks
Die Bedenken konzentrieren sich auf Schwachstellen, die es Nutzern ermöglichen könnten, die Sicherheitsvorkehrungen von Claude Fable 5 zu umgehen und auf die leistungsfähigeren Cybersicherheitsfunktionen des internen Mythos-Modells von Anthropic zuzugreifen. Amazon-CEO Andy Jassy rief letzte Woche Finanzminister Scott Bessent an, um auf das Problem hinzuweisen, was die NSA dazu veranlasste, die Angelegenheit zu prüfen. Die Behörde kam zu dem Schluss, dass der Jailbreak tatsächlich möglich sei, so mit den Diskussionen vertraute Personen.
Diplomatie am Wochenende
Nachdem das Verbot am Freitagabend in Kraft getreten war, führten hochrangige Vertreter am Wochenende stundenlange Telefonate. Auf Seiten von Anthropic waren Mitgründer Tom Brown und die Leiterin der Politikabteilung Sarah Heck beteiligt; von Seiten der Regierung nahmen Handelsminister Howard Lutnick und der nationale Cyber-Direktor Sean Cairncross teil. Das Unternehmen beeilte sich daraufhin, technisches Personal nach Washington zu entsenden.
Beide Parteien arbeiten mit Hochdruck an einer Lösung.
Stillstand am Montag
Bei den persönlichen Treffen im Handelsministerium gab es detaillierte Präsentationen durch das Frontier-Red-Team von Anthropic sowie die Sicherheitsexperten Logan Graham, Dave Orr und Nicholas Carlini. Die Regierung wurde von Chris Fall vertreten, der das Center for AI Standards and Innovation leitet. Trotz des technischen Austauschs endeten die Gespräche ohne Aufhebung der Exportkontrollen. Ein hochrangiger Vertreter des Weißen Hauses erklärte, es werde wahrscheinlich länger als ein paar Tage dauern, bis eine Lösung gefunden sei, ließ jedoch die Tür für ein schnelleres Ergebnis offen.
Es wird wahrscheinlich länger als ein paar Tage dauern, bis eine Lösung gefunden ist.
Breiterer Kontext
Die Beschränkung markiert die bisher bedeutendste Eskalation in den Bemühungen der US-Regierung, die schnell voranschreitende KI-Industrie zu regulieren. Es ist das erste Mal, dass das Weiße Haus ein Unternehmen gezwungen hat, ein KI-Modell vom öffentlichen Markt zu nehmen. Für Anthropic fällt der Konflikt in eine Zeit, in der das Unternehmen einen separaten Streit mit dem Pentagon über die militärische Nutzung seiner Modelle führt.
Diese Schwachstellen erscheinen alle relativ einfach, und wir haben festgestellt, dass andere öffentlich zugängliche Modelle diese ebenfalls entdecken können, ohne dass eine Umgehung erforderlich ist.
