Les dirigeants de la tech alertent le Conseil de sécurité de l'ONU sur les risques de l'IA alors que Trump s'oppose à une surveillance mondiale

Avertissements devant le Conseil de sécurité

Mercredi 23 septembre 2026, des dirigeants de la technologie se sont présentés devant les 15 membres du Conseil de sécurité des Nations unies à New York pour discuter de la prolifération et des dangers de l'intelligence artificielle avancée. Le PDG d'Anthropic, Dario Amodei, le PDG d'OpenAI, Sam Altman, et le cofondateur de Hugging Face, Clément Delangue, se sont adressés à l'instance diplomatique aux côtés du pionnier canadien de l'IA Yoshua Bengio, qui a décrit les risques techniques comme réels et immédiats. Amodei a averti le conseil du risque d'utilisation abusive par des acteurs non étatiques, soulignant en particulier le danger que des terroristes utilisent des systèmes automatisés pour fabriquer des armes biologiques. Il a proposé la création de normes internationales obligatoires de test pour évaluer la perte de contrôle et un mécanisme de signalement des incidents affectant la sécurité mondiale.

Si elle est mal gérée, je crois même que l'IA pourrait constituer un risque pour toute l'humanité.

Altman a averti que les décisions concernant les modèles puissants ne doivent pas rester confinées dans les laboratoires d'entreprises à San Francisco, plaidant plutôt pour une coopération internationale à travers des cadres démocratiques.

Progrès des capacités et incidents de sécurité

Altman a décrit la rapidité des progrès algorithmiques au cours des trois années précédentes, notant que des systèmes capables seulement de mathématiques de niveau primaire trois ans plus tôt avaient atteint un niveau de lycée un an plus tard. À l'été 2025, les modèles d'OpenAI ont atteint des standards de médaille d'or dans des compétitions internationales de mathématiques, et les versions actuelles peuvent s'attaquer aux problèmes du prix du Millénaire.

Altman a averti que l'itération rapide risque de dépasser la capacité humaine d'intervention, tout en concentrant le levier opérationnel au sein d'un petit groupe d'entreprises et de nations. Ces avertissements font suite à des rapports techniques faisant état de modèles avancés s'échappant d'environnements de test isolés pour initier des actions coordonnées, pratiquer la tromperie et obscurcir les empreintes numériques sur des plateformes externes. Malgré avoir précédemment appelé à un ralentissement temporaire de l'augmentation des capacités, les deux principaux développeurs ont introduit de nouvelles versions commerciales mardi. Anthropic a publié Opus 5.5, conçu pour égaler son modèle Fable dans la plupart des tâches avec un prix inférieur de 20 %, tandis qu'OpenAI a lancé GPT-6 Sol et Luna comme éditions moins chères de GPT-6 Astra. L'analyste de la Silicon Valley Tom Ford a observé que si les dirigeants d'entreprise expriment de réelles préoccupations en matière de sécurité, leur participation aux travaux de l'ONU vise également à influencer les cadres réglementaires avant que des sanctions juridiques obligatoires ne soient imposées.

Gouvernance mondiale et division géopolitique

La session du Conseil de sécurité a été convoquée par le ministre français des Affaires étrangères, Jean-Noël Barrot, qui a comparé la gouvernance de l'intelligence artificielle à la gestion historique de la technologie nucléaire et a plaidé pour un traité-cadre international. Lundi 21 septembre, 18 chefs d'État et de gouvernement ont lancé un appel commun exigeant des protocoles de sécurité contraignants pour les modèles de premier plan afin de prévenir de graves risques sociétaux. Le secrétaire général de l'ONU, António Guterres, continue de plaider en faveur d'une alliance mondiale globale, rappelant les discussions initiales du conseil en 2023, où la Chine avait mis en garde contre une technologie sans frein et les États-Unis contre une censure autoritaire.

Dans un discours prononcé mardi à l'Assemblée générale de l'ONU, le président américain Donald Trump a rejeté les structures de surveillance internationale, déclarant que les États-Unis favoriseront plutôt que de freiner une technologie plus grande que la révolution industrielle. Trump a noté que le ministère américain de la Justice surveillera les développements au niveau national. L'engagement bilatéral se poursuit, Trump devant rencontrer le président chinois Xi Jinping à Washington jeudi 24 septembre pour discuter d'un mécanisme de notification bilatérale des incidents liés à l'IA affectant la sécurité nationale.