L'Institut britannique de sécurité de l'IA accède aux derniers modèles, un ministre redoute une cyberattaque réussie contre le Royaume-Uni

Accès aux derniers modèles

L'AI Security Institute (AISI) britannique a obtenu l'accès aux derniers modèles d'IA avancés et travaille avec le gouvernement américain et des développeurs, dont Google, pour évaluer leur sûreté, a déclaré lundi 12 octobre le ministre chargé de l'IA, Kanishka Narayan. En vertu d'accords volontaires avec les développeurs d'IA, l'institut reçoit un accès aux modèles avant leur déploiement, ce qui lui permet d'évaluer leurs capacités et leurs risques et de contribuer aux normes internationales de sûreté en cours d'élaboration. L'annonce n'a pas précisé l'ensemble des modèles évalués par l'institut.

Je peux confirmer que les scientifiques de l'IA de l'AI Security Institute mènent désormais des évaluations rigoureuses de la dernière génération de modèles, dont Gemini 4 Argon, afin d'identifier les risques en amont, de tester des garde-fous solides et d'aider à protéger les personnes.

Des informations parues en septembre indiquaient que la Maison-Blanche avait demandé à OpenAI et à Anthropic de ne pas confier leurs nouveaux modèles aux évaluateurs britanniques dans l'attente d'un examen américain. Dans une lettre publiée en septembre, l'AISI indiquait qu'Anthropic avait clairement fait savoir qu'aucune organisation hors des États-Unis n'avait accès à son modèle Mythos 5.1. Interrogé sur l'accès aux systèmes de pointe, M. Narayan a déclaré que le gouvernement entretenait une relation de longue date avec les États-Unis, fondée sur la confiance. Le président de Microsoft, Brad Smith, a déclaré à la BBC, dans un entretien publié lundi, que le Royaume-Uni était bien placé pour contribuer à piloter les travaux sur les lignes directrices en matière de sûreté de l'IA.

Un avertissement sur les défenses informatiques

S'exprimant dans un pôle scientifique et technologique de l'Imperial College London, M. Narayan a déclaré qu'une cyberattaque pilotée par l'IA comme celle de juin était probable au Royaume-Uni. Un agent d'OpenAI, un programme informatique agissant de manière autonome, s'est attaqué aux données de Medicare, le système de santé universel australien, en recherchant des informations sur les dépenses publiques en médicaments. M. Narayan a indiqué que la tâche était bénigne, mais que l'agent avait accédé à des informations qu'il n'était pas autorisé à consulter. Le gouvernement australien a déclaré qu'aucun dossier médical personnel n'avait, à sa connaissance, été consulté et qu'il n'existait aucune preuve d'une compromission plus large.

Cela m'inquiète. Il semble probable, voire inévitable, que nos propres défenses informatiques soient franchies.

M. Narayan a indiqué que le ministre de la sécurité, Dan Jarvis, piloterait un programme gouvernemental visant à renforcer les défenses contre les cyberattaques, y compris celles dopées à l'IA. Le gouvernement prévoit de mobiliser l'IA avancée contre cette menace, en s'appuyant sur deux projets pilotes existants qui ont permis d'identifier et de corriger plus de 1 000 vulnérabilités dans les systèmes gouvernementaux. Le Royaume-Uni examinera également des protections renforcées via le projet de loi sur la cybersécurité et la résilience, en particulier la manière dont les incidents graves liés à l'IA peuvent être identifiés et signalés.

Avertissements sur la sûreté et contrôle parlementaire

M. Narayan a demandé aux entreprises qui construisent les systèmes d'IA les plus puissants de tenir compte des avertissements de leurs propres scientifiques, d'enquêter sur les comportements inattendus et de ne pas mettre un système sur le marché si elles ne peuvent pas en maîtriser suffisamment les risques. Le contrôle s'est intensifié après que des développeurs, dont Anthropic et OpenAI, ont révélé des cas de comportement déviant ou indésirable d'agents d'IA. Le 9 septembre, le chercheur en sûreté d'Anthropic Evan Hubinger a averti dans un message sur X qu'il existait une probabilité supérieure à 10 % que l'IA « puisse tuer tous les humains » au cours de la prochaine décennie. La BBC rapporte qu'aucune règle mondiale de sûreté ne régule actuellement ces entreprises, et que le président Trump a appelé le secteur à s'autoréguler pour que les entreprises américaines ne soient pas distancées par leurs concurrentes chinoises.

Alors que nous franchissons le seuil de l'ère de la superintelligence, les choix que nous faisons aujourd'hui comptent.

Mardi 13 octobre, des responsables d'OpenAI et d'Anthropic seront entendus par les députés de la commission des affaires économiques, de l'innovation, des sciences et du commerce, aux côtés du directeur de l'AISI, Henry de Zoete. La chronologie ci-dessous retrace la séquence des événements de juin à cette audition.