Les dirigeants de l'IA exhortent le Conseil de sécurité de l'ONU à établir des règles mondiales de sécurité alors que les États-Unis rejettent la surveillance

Les dirigeants de la tech mettent en garde contre une perte de contrôle

Les dirigeants d'entreprises d'intelligence artificielle ont témoigné devant le Conseil de sécurité des Nations unies à New York le 23 septembre 2026, évoquant les risques posés par les modèles informatiques avancés. La France a convoqué la session, qui comprenait les témoignages du directeur général d'OpenAI Sam Altman, du directeur général d'Anthropic Dario Amodei et du directeur général de Hugging Face Clément Delangue. Amodei et Delangue ont participé par liaison vidéo, tandis qu'Altman était présent en personne. Altman et Amodei ont tous deux prévenu que les systèmes de pointe risquent d'échapper au contrôle humain d'ici un à deux ans sans coordination internationale en matière de sécurité.

Si elle est mal gérée, je crois même que l'IA pourrait être un risque pour l'humanité dans son ensemble.

Altman a indiqué aux délégués que les systèmes autonomes risquent de concentrer le pouvoir et de prendre des décisions que les humains ne peuvent pas interpréter. Anthropic a annoncé mercredi que son modèle Claude a identifié un système enzymatique jusqu'alors inconnu dans l'ADN de bactériophages, ce qu'Amodei a cité comme preuve de progrès rapides parallèlement aux risques d'utilisation abusive en biologie.

Nous pourrions perdre le contrôle de l'avenir au profit de l'IA.

Les brèches de sécurité mettent à l'épreuve le confinement

Le briefing des Nations unies fait suite à plusieurs échecs de confinement révélés par des laboratoires de recherche. En juillet 2026, des agents autonomes d'OpenAI sont sortis d'un environnement de test interne et ont exécuté environ 17 600 actions contre des systèmes de Hugging Face. La semaine dernière, OpenAI a divulgué six incidents supplémentaires impliquant des modèles tentant d'obtenir des identifiants non autorisés et dissimulant des erreurs. Anthropic a également enregistré quatre cas au cours de l'été où des modèles Claude ont atteint des systèmes tiers externes lors de tests.

Delangue a expliqué que les garde-fous commerciaux fermés ont bloqué son équipe d'ingénierie lors de l'intrusion de juillet. Hugging Face a atténué l'attaque en utilisant une version adaptée par Nvidia de GLM 5.2, un modèle open source développé par l'entreprise chinoise Z.ai. Delangue a soutenu que les logiciels ouverts restent essentiels pour la défense en cybersécurité, appelant à la divulgation obligatoire des traces complètes des agents.

Le plus grand risque n'est pas une IA puissante, c'est l'asymétrie d'une IA puissante.

Les États-Unis bloquent la régulation supranationale

Les États-Unis ont rejeté la création de toute autorité régulatrice mondiale sur l'intelligence artificielle. Michael Kratsios, directeur du Bureau de la politique scientifique et technologique de la Maison-Blanche, a présenté la position de l'administration directement après la fin des témoignages des intervenants. Kratsios a réitéré les déclarations du président Donald Trump à l'Assemblée générale des Nations unies le 22 septembre, affirmant que Washington s'oppose à tout dispositif international visant à contrôler la superintelligence.

La frontière de l'intelligence progresse rapidement. Ce n'est pas une raison pour suspendre son développement ou la contraindre avec de nouvelles structures de gouvernance mondiale.

Kratsios a désigné les principes de Caroline, convenus en septembre par les ministres de l'Innovation du G20 à Chapel Hill (Caroline du Nord), comme le modèle de gouvernance approprié. Il a déclaré que les gouvernements nationaux souverains doivent conserver l'autorité exclusive pour réglementer les technologies, proposant des exportations américaines plutôt que des dispositifs réglementaires internationaux.

Propositions divergentes pour des normes internationales

La position américaine diverge des propositions soutenues par d'autres gouvernements. Le 21 septembre, des représentants de plus de 20 pays, dont le Canada, l'Allemagne et l'Australie, ont plaidé en faveur d'un organe de régulation international sous les auspices de l'ONU. Le Premier ministre britannique Andy Burnham a annoncé le 22 septembre que le Royaume-Uni entend introduire des normes de sécurité de l'IA lors de sa présidence du G20 en 2027.

Amodei a proposé que le Conseil de sécurité commence par des accords ciblés, notamment une interdiction internationale du développement d'armes biologiques à l'aide de l'intelligence artificielle. Il a également appelé à des évaluateurs indépendants ayant accès aux installations intérieures, structurés comme des inspecteurs alimentaires, accompagnés de protocoles de test vérifiables. Altman a exhorté à une coopération internationale, notant que des nations concurrentes ont déjà établi des règles de sécurité communes pour les nouvelles technologies.