Faut-il accepter les risques de l’IA pour la garder entre des mains humaines ?

Le directeur général d’OpenAI, Sam Altman, affirme que l’intelligence artificielle puissante doit rester largement accessible au public, déclarant : Nous pensons que le monde devrait accepter que de mauvaises choses arrivent en échange des bénéfices de cette technologie et de l’autonomie des personnes.

Altman a écarté les propositions visant à limiter les systèmes avancés à un seul laboratoire de recherche à San Francisco, alors même que les législateurs à Washington examinent des propositions bipartites imposant des évaluateurs de sûreté externes aux principales entreprises d’intelligence artificielle.

Cependant, des chercheurs en sûreté avertissent que le secteur avance de façon beaucoup trop imprudente, l’ancien responsable de la sûreté Geoffrey Irving mettant en garde contre une probabilité estimée à 50 % que l’intelligence artificielle plus intelligente que l’humain puisse conduire à l’extinction de l’humanité.