Le chef de l'ONU prévient que l'IA se développe plus vite que les règles ne peuvent suivre, et appelle à une gouvernance mondiale
Antonio Guterres a déclaré lors du premier Dialogue mondial de l'ONU sur la gouvernance de l'IA à Genève que l'intelligence artificielle dépasse la réglementation, et a appelé à des règles mondiales harmonisées pour protéger les enfants et éviter un avenir « vibe-codé ».
Avertissement d'ouverture
Guterres a ouvert le dialogue de deux jours le 6 juillet par un constat sévère : les systèmes d'IA évoluent à une vitesse fulgurante, plus vite que les institutions censées les contrôler. « Une technologie qui peut remodeler les économies, transformer le monde du travail, influencer les élections et faire pencher la balance de la sécurité est déployée plus vite que quiconque, y compris ceux qui la construisent, ne peut suivre », a-t-il déclaré. Il a présenté le choix comme étant « entre gouverner par conception et dériver par défaut ».
Le risque du « vibe-coding » et les enfants
Il a pointé du doigt le « vibe-coding », la pratique qui consiste à laisser l'IA écrire du code à partir d'invites en langage courant, comme un symbole de la perte de contrôle humain. « Le vibe-coding peut faire des merveilles, mais nous ne pouvons pas vibe-coder l'avenir de l'humanité », a-t-il déclaré. Guterres a proposé un engagement mondial pour la sécurité des enfants : des tests de sécurité obligatoires avant que l'IA n'atteigne les enfants, une interdiction des images sexuelles générées par l'IA de mineurs, et une garantie que les enfants en détresse soient orientés vers une aide humaine. « Nous ne laissons pas un médicament atteindre un enfant avant qu'il ne soit prouvé sûr ; nous testons chaque jouet. Pourtant, l'IA a atteint nos enfants », a-t-il déclaré.
Le rapport scientifique
Les délégués examinent un rapport préliminaire du Groupe scientifique international indépendant de l'ONU sur l'IA, publié le 1er juillet. Le groupe de 40 experts a conclu que les capacités de l'IA s'accélèrent plus vite que la capacité des gouvernements à les comprendre, les tester ou les réglementer. Guterres a résumé le message : « Le monde ne peut pas gouverner ce qu'il ne peut pas comprendre. » Un rapport plus complet est attendu l'année prochaine, parallèlement à une deuxième réunion mondiale à New York.
Une mosaïque réglementaire
Ce dialogue intervient dans un paysage réglementaire fragmenté. La loi sur l'IA de l'UE est l'un des rares cadres contraignants en vigueur, bien que sa mise en œuvre varie. La Chine a restreint les agents d'IA humanisés. Les États-Unis n'ont pas encore produit de règles fédérales durables. Guterres a averti que la plupart des pays « n'ont eu aucun mot à dire sur les décisions qui façonneront leur avenir », et que le pouvoir est concentré entre les mains d'une poignée d'entreprises et de nations.
- Le groupe scientifique de l'ONU publie un rapport préliminaire avertissant que les capacités de l'IA dépassent la gouvernance.
- Premier Dialogue mondial de l'ONU sur la gouvernance de l'IA s'ouvre à Genève ; Guterres lance un avertissement.
- Le dialogue se poursuit avec les délégués discutant des règles et de l'atténuation des risques.
- Rapport complet et deuxième réunion mondiale prévus à New York.
Prochaines étapes
La réunion de Genève n'est pas une négociation de traité mais un forum pour aligner les approches. Guterres a exhorté les gouvernements à « ne pas attendre », appelant à des méthodes communes d'évaluation des risques, des normes convenues conjointement et quatre priorités : la sécurité, les droits de l'homme, le renforcement des capacités dans les pays en développement et la transparence. Le dialogue se poursuit jusqu'au 7 juillet.
