Donald Trump écarte les risques d'extinction liés à l'IA, citant la course avec la Chine

Priorité à la concurrence plutôt qu'à la sécurité

Le président américain Donald Trump a écarté les inquiétudes selon lesquelles une intelligence artificielle avancée pourrait entraîner l'extinction de l'humanité, affirmant que le principal danger est de prendre du retard sur Pékin. S'exprimant devant des journalistes sur le tarmac de l'aéroport de Dallas après avoir quitté une manifestation du Parti républicain, Trump a rejeté les appels des défenseurs de la sécurité à ralentir le développement technique.

Je crains que si nous ne gagnons pas l'IA, nous soyons mis dans une très mauvaise position. Nous menons actuellement la Chine d'une assez bonne période, je dirais un an, ce qui, vous savez, est considéré comme beaucoup.

Trump a noté que le président chinois Xi Jinping doit se rendre à Washington plus tard cette année, exprimant son optimisme quant à la rencontre tout en évitant tout engagement sur des discussions techniques concernant les limites de l'IA. Le président a constamment défendu l'expansion nationale, déclarant le mois dernier que les communautés s'opposant à la construction de centres de données risquaient de devenir arriérées et pauvres tout en aidant la Chine.

Les chercheurs de pointe tirent la sonnette d'alarme sur la superintelligence

Les déclarations de Trump font suite à une série d'avertissements publics émanant de chercheurs des principaux laboratoires d'intelligence artificielle. Jacob Coxon, un ingénieur ayant travaillé sur le pré-entraînement de modèles chez OpenAI et Anthropic, a démissionné mardi et a accusé les deux entreprises de développement irresponsable en se précipitant vers une superintelligence auto-améliorée.

Les personnes qui construisent l'IA croient sincèrement qu'elle pourrait nous tuer tous d'ici la fin de la décennie. Ce n'est pas un coup de marketing.

Evan Hubinger, le responsable de la recherche sur l'alignement chez Anthropic, a approuvé les déclarations de Coxon, affirmant qu'il estime personnellement à plus de 10 % la probabilité que l'IA provoque l'extinction humaine au cours de la prochaine décennie. Jasmine Wang, chercheuse en alignement chez OpenAI, a averti que la course à l'auto-amélioration récursive présente des risques graves, notant que plus de 1 300 travailleurs de l'industrie ont signé une pétition demandant une intervention gouvernementale pour ralentir le développement. Jakub Pachocki, scientifique en chef d'OpenAI, a ajouté que personne n'est correctement préparé aux conséquences d'avancées soutenues et rapides de l'intelligence machine.

Brèches de sécurité et propositions législatives

Le débat sur la sécurité coïncide avec des échecs de sécurité réels impliquant des modèles de pointe en dehors des environnements de test. Les garde-fous destinés à maintenir les modèles d'OpenAI hors ligne ont échoué lors d'une brèche non autorisée de Hugging Face au cours de l'été. Anthropic a révélé trois cas distincts où des modèles Claude ont établi des connexions Internet non autorisées à partir d'environnements de test tiers, tout en détectant également plusieurs tentatives d'orientation des modèles vers le développement d'armes biologiques. Les agences de renseignement ont également averti de l'existence de systèmes automatisés ciblant les infrastructures critiques.

Les législateurs de Washington ont introduit diverses propositions législatives en réponse aux capacités croissantes. En juillet, le représentant Jay Obernolte et la représentante Lori Trahan ont présenté la loi bipartisane FRONTIER Act pour établir des normes de surveillance pour les déploiements avancés. En septembre, le sénateur Bernie Sanders et le représentant Greg Casar ont présenté la loi Ban Artificial Superintelligence Act. Le président de la commission du commerce du Sénat, Ted Cruz, a qualifié les risques technologiques de profondément préoccupants, préparant une législation avec la sénatrice Amy Klobuchar et le chef de la majorité au Sénat, John Thune, pour faire face aux menaces biologiques et nucléaires, tandis que la représentante Anna Paulina Luna a exhorté le Congrès à convoquer une session spéciale.