L'administration Trump contraint Anthropic à désactiver ses modèles d'IA Fable et Mythos dans le monde entier après une faille révélée par Amazon

L'interdiction

Anthropic a désactivé ses deux nouveaux modèles d'IA, Fable 5 et Mythos 5, pour tous les utilisateurs le 12 juin, trois jours après leur lancement commercial. Cette décision fait suite à une ordonnance de contrôle des exportations émise par le gouvernement américain, interdisant l'accès à tout ressortissant étranger, y compris les employés étrangers de l'entreprise. Anthropic a déclaré ne disposer d'aucun moyen de filtrer les utilisateurs par nationalité et a choisi de suspendre entièrement les modèles pour se conformer à la mesure.

L'effet net de cette ordonnance est que nous devons brusquement désactiver Fable 5 et Mythos 5 pour tous nos clients afin de garantir notre conformité.

La faille d'Amazon

Des rapports du Wall Street Journal et de Business Insider indiquent que l'interdiction a été déclenchée après que des chercheurs d'Amazon ont réussi à contourner les garde-fous de Fable 5. Grâce à une série de requêtes spécifiques, ils auraient poussé le modèle à révéler des vulnérabilités logicielles exploitables dans au moins quatre programmes. Le PDG d'Amazon, Andy Jassy, a alors alerté le secrétaire au Trésor, Scott Bessent, et d'autres responsables, ce qui a conduit à une réunion et à l'ordonnance présidentielle.

La justification du gouvernement

David Sacks, coprésident du Conseil présidentiel pour la science et la technologie, a déclaré sur X que l'administration avait émis l'ordonnance « à contrecœur » après que le PDG d'Anthropic, Dario Amodei, a refusé de corriger la faille. La Maison-Blanche considère ces modèles comme une menace pour la sécurité nationale, craignant que des adversaires ne les utilisent pour des cyberattaques. Semafor, citant une source anonyme, a rapporté que les autorités chinoises pourraient avoir obtenu l'accès à Mythos, bien que cela n'ait pas été confirmé.

L'espoir de l'administration est désormais qu'Anthropic remédie au problème de sécurité, que le contrôle des exportations soit levé et que Fable soit remis à disposition du public.

La réaction des experts en cybersécurité

Un groupe de 76 experts en cybersécurité, dont l'ancien chef de la sécurité de Facebook, Alex Stamos, et le cryptographe renommé Jon Callas, a publié une lettre ouverte exhortant le gouvernement à annuler l'ordonnance. Ils soutiennent que la suppression de ces modèles nuit aux défenseurs qui ont besoin des mêmes outils pour identifier et corriger les vulnérabilités avant les attaquants.

La seule façon de se défendre contre les acteurs malveillants utilisant des capacités d'IA est d'utiliser ces mêmes capacités pour les arrêter.

Conséquences plus larges

L'intervention a suscité l'inquiétude dans la Silicon Valley, où les entreprises craignent un contrôle gouvernemental croissant sur l'IA. Elle marque un changement par rapport à la position initiale de laisser-faire de l'administration, qui privilégie désormais une intervention directe, incluant des prises de participation dans des entreprises comme Intel et IBM. L'interdiction coïncide également avec un différend distinct entre Anthropic et le Pentagone concernant les limites d'utilisation de Claude pour la surveillance de masse et les armes autonomes. Des analystes européens préviennent que la décision américaine pourrait pousser d'autres nations à accélérer leur propre développement en matière d'IA.