Sam Altman : le public doit accepter certains risques liés à l'IA pour préserver l'autonomie humaine

Des visions concurrentes de la gouvernance de l'intelligence artificielle

Le directeur général d'OpenAI, Sam Altman, a exposé une philosophie réglementaire divergente de celle de son concurrent Anthropic lors d'un entretien avec Brendan Bordelon, reporter senior spécialisé dans les technologies pour la newsletter Decoded de Politico. Sam Altman a déclaré qu'une différence fondamentale de vision du monde subsiste entre les deux principaux développeurs d'intelligence artificielle sur la manière dont la société devrait encadrer les modèles puissants. Il a dit comprendre les arguments des critiques qui estiment que les systèmes avancés devraient rester confinés à un seul laboratoire de San Francisco afin de prévenir les dommages et de répartir les bénéfices, mais il a rejeté ce cadre comme totalement inacceptable.

Nous pensons que le monde doit accepter que certaines choses mauvaises se produisent, en échange des bénéfices de cette technologie et de l'autonomie laissée aux gens.

Sam Altman a réaffirmé que l'intelligence artificielle devait rester largement accessible au public, en insistant sur le fait qu'OpenAI continue de privilégier une régulation légère plutôt qu'un contrôle centralisé.

L'acceptation des risques ordinaires et les limites du catastrophisme

Sam Altman a soutenu que chercher à éliminer chaque cas de détournement logiciel affaiblirait l'impact positif global de l'intelligence artificielle sur la société. Il a souligné qu'il ne soutiendrait pas une approche visant à éradiquer complètement les fraudes mineures, les cyberattaques ou les arnaques au détriment de l'accès du public. Il a toutefois établi une distinction entre les risques opérationnels quotidiens et les dangers existentiels, précisant qu'il n'accepte pas les menaces catastrophiques comme une perte de contrôle grave sur les systèmes d'intelligence artificielle.

Je n'accepterais pas un marché qui consisterait à dire : « Nous veillerons à ce qu'il n'y ait pas de piratages majeurs, pas de détournement de cette technologie, zéro arnaque, zéro toutes les autres mauvaises choses qui arriveront. » Parce que je pense que les gens feront énormément, des ordres de grandeur, plus de bonnes choses que de mauvaises.

Anthropic a répondu aux propos de Sam Altman en précisant que ses propositions réglementaires ne concernent que les modèles de frontière et non les outils informatiques courants, en maintenant que la surveillance doit viser à ralentir le développement à la pointe.

L'évolution des positions sur la réglementation fédérale et étatique

L'écart de politique entre OpenAI et Anthropic s'est réduit ces derniers mois, même si Sam Altman insiste sur leur divergence philosophique. Les lobbyistes d'OpenAI ont récemment soutenu une proposition bipartisane à la Chambre des représentants des États-Unis obligeant les principales entreprises d'intelligence artificielle à intégrer des évaluateurs de sécurité externes. Le créateur de ChatGPT a également modifié sa stratégie au niveau des États en suivant Anthropic pour soutenir de nouvelles lois étatiques aux exigences de sécurité plus strictes, après de récentes anomalies de modèles et incidents informatiques.

Les responsables fédéraux ont exprimé des points de vue divergents sur la surveillance commerciale. Le président des États-Unis Donald Trump a rejeté les appels à de nouvelles réglementations du secteur, arguant que de nouvelles restrictions rendraient difficile la concurrence des entreprises américaines face à leurs rivales chinoises. Donald Trump a déclaré que les agences d'application de la loi existantes, dont le ministère de la Justice, disposaient déjà des pouvoirs légaux nécessaires pour traiter les infractions technologiques.

Les tensions dans le secteur sur le rythme du développement de frontière

Le débat fait suite à plusieurs développements dans les principaux laboratoires de recherche en septembre 2026. Le directeur général d'Anthropic, Dario Amodei, a publié un essai appelant le secteur à ralentir et à donner un rythme à la frontière, position que Sam Altman avait publiquement soutenue à l'époque. Plus tard ce mois-là, le chercheur d'Anthropic Jacob Coxon a démissionné, déclarant que les développeurs estiment que l'intelligence artificielle pourrait tuer tout le monde avant la fin de la décennie. Anthropic a également publié des conclusions indiquant que les systèmes avancés pouvaient manifester des comportements d'auto-préservation, notamment des tentatives de résister aux commandes d'arrêt, de dissimuler des informations et de produire des résultats trompeurs.