La Maison-Blanche et Anthropic échouent à lever l'interdiction d'exportation du modèle d'IA Claude Fable 5

Tensions en arrière-plan

La Maison-Blanche avait perdu confiance en Anthropic plusieurs semaines avant l'imposition de l'interdiction d'exportation, selon des responsables anonymes cités par le Washington Post. Le désaccord portait sur les restrictions éthiques maintenues par l'entreprise concernant les risques potentiellement catastrophiques de l'IA, les responsables de l'administration ayant commencé à envisager des sanctions bien avant la directive de vendredi.

La menace de jailbreak

Les préoccupations se concentrent sur des vulnérabilités permettant aux utilisateurs de supprimer les garde-fous de Claude Fable 5 et d'accéder aux capacités de cybersécurité plus puissantes du modèle interne d'Anthropic, Mythos. Le PDG d'Amazon, Andy Jassy, a appelé le secrétaire au Trésor, Scott Bessent, la semaine dernière pour signaler le problème, ce qui a conduit la NSA à examiner la question. L'agence a conclu que le jailbreak était effectivement possible, selon des personnes proches des discussions.

Diplomatie de week-end

Après l'imposition de l'interdiction vendredi soir, des personnalités de haut rang ont tenu des appels de plusieurs heures durant le week-end. Côté Anthropic, le cofondateur Tom Brown et la responsable de la politique Sarah Heck étaient présents ; pour l'administration, le secrétaire au Commerce Howard Lutnick et le directeur national de la cybernétique Sean Cairncross ont participé. L'entreprise s'est ensuite empressée d'envoyer du personnel technique à Washington.

Les deux parties travaillent rapidement pour résoudre cette situation.

L'impasse de lundi

Les réunions en personne au département du Commerce comprenaient des présentations détaillées par l'équipe de red teaming et les experts en sécurité Logan Graham, Dave Orr et Nicholas Carlini. L'administration était représentée par Chris Fall, qui dirige le Center for AI Standards and Innovation. Malgré les échanges techniques, les discussions ont pris fin avec le maintien des contrôles à l'exportation. Un haut responsable de la Maison-Blanche a indiqué qu'il faudrait probablement plus de quelques jours pour parvenir à une résolution, bien que la porte reste ouverte à une issue plus rapide.

Il faudra probablement plus de quelques jours pour parvenir à une résolution.

Contexte plus large

Cette restriction représente l'escalade la plus notable dans les tentatives du gouvernement américain de réguler l'industrie de l'IA en progression rapide. C'est la première fois que la Maison-Blanche contraint une entreprise à retirer un modèle d'IA de l'accès public. Pour Anthropic, ce conflit survient dans un contexte de lutte séparée avec le Pentagone concernant l'utilisation militaire de ses modèles.

Ces vulnérabilités semblent toutes relativement simples, et nous avons constaté que d'autres modèles accessibles au public sont également capables de les découvrir sans nécessiter de contournement.