Anthropic suspend ses nouveaux modèles d'IA après une ordonnance américaine bloquant l'accès des étrangers

Ordonnance américaine de contrôle des exportations

Anthropic a été contrainte de couper immédiatement l'accès à ses nouveaux modèles d'IA à la fin de la semaine dernière après avoir reçu une directive de contrôle des exportations du département du Commerce américain, a indiqué l'entreprise dans un communiqué. L'ordonnance, invoquant des prérogatives de sécurité nationale, exige la suspension de Fable 5 et Mythos 5 pour tout citoyen étranger, que ce soit à l'intérieur ou en dehors des États-Unis, y compris les employés étrangers d'Anthropic. L'entreprise a déclaré n'avoir reçu qu'une preuve verbale d'une vulnérabilité potentielle et aucun détail précis sur le problème de sécurité.

« L'effet net de cette ordonnance est que nous devons brusquement désactiver Fable 5 et Mythos 5 pour tous nos clients afin d'assurer la conformité. »

Fable 5, une variante du système Mythos plus large, avait été lancée quelques jours plus tôt et concurrence ChatGPT d'OpenAI et Gemini de Google. Anthropic a souligné que l'accès à tous ses autres modèles reste inchangé.

Réponse d'Anthropic et allégations de jailbreak

L'entreprise comprend que le gouvernement estime avoir identifié une méthode pour contourner, ou jailbreaker, les garde-fous qui empêcheraient Fable 5 d'être utilisé à mauvais escient pour des activités de cybersécurité. Anthropic a reconnu que son examen interne avait trouvé quelques vulnérabilités mineures déjà connues, mais a fait valoir que des faiblesses similaires existent dans d'autres modèles publics sans nécessiter de techniques de contournement avancées. L'entreprise a également souligné avoir collaboré avec le gouvernement américain, l'Institut de sécurité de l'IA du Royaume-Uni, des organisations indépendantes et ses équipes internes pendant des milliers d'heures de tests avant le lancement.

« Nous ne pensons pas que la découverte d'un jailbreak potentiel limité devrait constituer une raison de retirer un modèle commercial déployé pour des centaines de millions de personnes. »

Anthropic a déclaré travailler à clarifier la situation et à rétablir l'accès dès que possible. Elle a noté que deux jours seulement avant la directive, elle avait publiquement appelé à un contrôle américain plus strict de l'IA, y compris la possibilité de bloquer les modèles jugés trop dangereux, mais estimait que la mesure de vendredi ne suivait pas les principes d'une régulation juste et fondée sur des preuves.

Relations tendues avec l'administration Trump

L'ordonnance approfondit une relation déjà tendue entre l'entreprise basée à San Francisco et l'administration Trump. Plus tôt cette année, Anthropic a refusé de permettre à l'armée américaine d'utiliser ses modèles pour la surveillance intérieure et les systèmes d'armes entièrement autonomes. En mars, le Pentagone a qualifié l'entreprise de risque inacceptable pour la chaîne d'approvisionnement, une mise sur liste noire qui devrait prendre effet plus tard cette année. La directive actuelle marque une escalade supplémentaire, déplaçant les contrôles américains à l'exportation au-delà des puces et des outils matériels pour restreindre directement l'accès étranger aux logiciels d'IA avancés.

Mises en garde des experts et implications pour l'industrie

Cette suspension pourrait entraver le développement et les tests sécurisés de modèles puissants, prévient Gina Neff, professeure d'IA responsable à l'Université Queen Mary de Londres.

« Nous sommes en territoire inconnu à l'heure actuelle. Les personnes de l'industrie de l'IA nous ont prévenus que ces outils s'améliorent très rapidement et que nous devons être capables de développer des capacités pour nous protéger. »

Kirsten Davies, directrice de l'information du Pentagone, a soutenu la priorité de la sécurité nationale.

« La sécurité nationale doit primer et certaines questions sont plus importantes que les revenus des entreprises, l'attention des médias ou les valorisations pré-introduction en Bourse. »

L'affrontement entre un développeur d'IA de premier plan et les régulateurs met en lumière la tension croissante sur la manière d'évaluer et de gouverner les risques posés par des modèles d'IA de plus en plus capables, en particulier alors qu'Anthropic elle-même vise une cotation en Bourse.