Les États-Unis ordonnent à Anthropic de bloquer l'accès étranger à ses modèles d'IA les plus avancés en raison de craintes de jailbreak

Le gouvernement américain invoque la sécurité nationale

Anthropic a reçu une directive du gouvernement américain dans l'après-midi du 12 juin, ordonnant à l'entreprise de suspendre l'accès de tous les ressortissants étrangers à ses modèles d'IA Fable 5 et Mythos 5. La lettre, envoyée à 17h21 heure locale, ne précisait pas les préoccupations exactes en matière de sécurité nationale, selon l'entreprise. Anthropic a déclaré qu'elle pense que le gouvernement a eu connaissance d'une méthode pour contourner ou jailbreaker les garde-fous de Fable 5.

Modèles désactivés pour tous les clients

Étant donné que l'ordonnance de contrôle des exportations s'applique à tout ressortissant étranger, qu'il soit à l'intérieur ou à l'extérieur des États-Unis, y compris les employés d'Anthropic, l'entreprise a déclaré ne pas pouvoir filtrer l'accès par nationalité. En conséquence, Anthropic a brusquement désactivé les deux modèles pour tous les clients afin de se conformer. L'accès aux autres modèles d'Anthropic, y compris son chatbot Claude, reste inchangé.

Anthropic conteste la décision

L'entreprise a fait valoir que la découverte d'un potentiel jailbreak limité ne devrait pas déclencher le retrait d'un modèle commercial déployé auprès de centaines de millions de personnes. Dans un article de blog, Anthropic a déclaré qu'un tel standard « arrêterait essentiellement tous les déploiements de nouveaux modèles pour tous les fournisseurs de modèles de pointe » s'il était appliqué à l'ensemble du secteur. Elle a également défendu ses garde-fous, qui redirigent automatiquement les requêtes sensibles en cybersécurité, biologie ou chimie vers un modèle moins performant.

Nous ne sommes pas d'accord sur le fait que la découverte d'un potentiel jailbreak limité devrait être une raison pour retirer un modèle commercial déployé auprès de centaines de millions de personnes.

Contexte des modèles restreints

Fable 5, publié publiquement le 9 juin, est basé sur le modèle plus puissant Mythos 5, qu'Anthropic avait précédemment décrit comme trop dangereux pour être largement diffusé en raison de ses capacités en cybersécurité. Mythos 5 est resté accessible uniquement à des partenaires sélectionnés dans le cadre du programme Project Glasswing. L'entreprise avait introduit Fable avec des garde-fous supplémentaires, notamment une redirection automatique des réponses pour les sujets sensibles, mais le gouvernement a quand même agi.

Contexte politique et juridique

La restriction émane d'une administration Trump qui, jusqu'à récemment, favorisait une régulation minimale de l'IA. Plus tôt cette année, le Pentagone a qualifié Anthropic de risque pour la sécurité nationale dans le cadre d'un différend sur l'utilisation militaire de sa technologie. Le président Trump a signé un décret plus tôt ce mois-ci encourageant les entreprises à soumettre leurs nouveaux outils d'IA puissants à un examen préalable par les autorités, bien que la participation soit volontaire. Anthropic poursuit par ailleurs le gouvernement en justice concernant une ordonnance visant à empêcher les agences fédérales d'utiliser ses outils d'IA.