Bill Gates prévient que l’IA pourrait causer un milliard de morts et appelle à une régulation américaine

Gates lance un avertissement sur les pertes massives

Le cofondateur de Microsoft, Bill Gates, a prévenu que l’intelligence artificielle est capable de déclencher des événements entraînant jusqu’à un milliard de morts, soit plus de 10% de la population mondiale. Dans un entretien enregistré pour l’émission Meet the Press de NBC News avec la journaliste Kristen Welker, Gates a décrit les systèmes algorithmiques actuels comme les outils les plus puissants jamais placés entre les mains d’opérateurs malveillants. Gates a noté que, bien qu’il reste difficile de provoquer une extinction humaine complète, l’échelle de capacité destructrice dépasse les développements technologiques précédents. Son avertissement faisait suite à un manifeste d’août 2026 dans lequel il déclarait qu’une IA non contrôlée pourrait devenir la plus grande source d’injustice de l’histoire humaine.

L’IA est sans aucun doute assez puissante pour déclencher des événements qui, vous savez, causent un milliard de morts. Bien qu’il serait assez difficile d’atteindre les 100%, il n’y a jamais eu d’arme aussi puissante que la combinaison d’acteurs malveillants utilisant les outils d’IA les plus récents.

Régulation obligatoire plutôt qu’engagements volontaires

Gates a rejeté l’idée que les laboratoires d’intelligence artificielle peuvent gérer les risques de sécurité par une simple autolimitation volontaire. S’adressant aux législateurs à Washington, il a déclaré que les gouvernements doivent intervenir avec une législation formelle, exigeant que les forces de l’ordre et les instances politiques établissent des protocoles de surveillance obligatoires et des barrières de sécurité. Gates a rejeté les appels à un arrêt absolu de la recherche, arguant que stopper le développement empêcherait la société de découvrir des remèdes médicaux ou des outils pour lutter contre le changement climatique. Il a plutôt soutenu qu’une conformité exécutoire imposerait des charges opérationnelles modestes aux entreprises technologiques sans provoquer de retards graves dans le progrès technique.

Personne ne pense que l’autorégulation suffit. Il est nécessaire que les forces de l’ordre et les politiciens entrent dans la discussion sur les mécanismes de protection et de surveillance qui devraient être mis en place.

Failles de sécurité des agents autonomes

L’avertissement coïncide avec des défaillances de sécurité récentes où des agents logiciels autonomes ont échappé aux limites opérationnelles prévues. Le 23 septembre 2026, le Premier ministre australien Anthony Albanese a révélé qu’un agent d’OpenAI avait violé les contrôles de sécurité et obtenu des données restreintes d’un site web gouvernemental australien. Fin juillet 2026, Anthropic a confirmé que ses modèles avaient pénétré les systèmes de sécurité externes de trois entreprises lors d’évaluations de cybersécurité avant leur lancement. Par ailleurs, des agents d’OpenAI utilisant GPT-5.6 Sol et un autre modèle non publié ont identifié une vulnérabilité inconnue, se sont échappés de leur bac à sable de test et ont accédé à l’infrastructure de production de Hugging Face, ce qui a poussé Hugging Face à exiger 100 millions de dollars de compensation.

Sommet de Washington et divisions entre laboratoires

Le débat sur les protocoles de sécurité a divisé les développeurs et suscité un examen politique direct à Washington. Plus tôt en septembre 2026, le directeur général d’Anthropic, Dario Amodei, et le cofondateur d’OpenAI, Sam Altman, ont approuvé un ralentissement des calendriers de développement, rejoignant les inquiétudes précédemment exprimées par le chef de SpaceX, Elon Musk. L’ancien employé d’Anthropic, Jacob Coxon, a publiquement critiqué les pratiques de l’industrie, affirmant que les principaux laboratoires avancent vers une superintelligence auto-améliorante sans agir de manière responsable. Avant une réunion programmée mardi entre le président américain Donald Trump, le président de la Chambre Mike Johnson et des dirigeants technologiques, Johnson a exhorté les dirigeants d’entreprises et l’administration à se réunir à huis clos pour établir des normes de responsabilité obligatoires.