Le pape Léon XIV publie l'encyclique historique sur l'IA 'Magnifica Humanitas', appelant à un ralentissement mondial et au 'désarmement' de l'intelligence artificielle

Le pape Léon XIV est officiellement entré dans le débat mondial sur l'intelligence artificielle avec la publication de sa première encyclique, 'Magnifica Humanitas' (Humanité magnifique). Signé le 15 mai, 135e anniversaire de l'encyclique sociale historique 'Rerum Novarum', le document a été présenté au monde lundi à l'Aula Nuova del Sinodo du Vatican. Le texte, qui s'étend sur 231 pages réparties en cinq chapitres, est lu dans les capitales politiques et financières autant comme une analyse de la régulation technologique que comme un document théologique.

Un message direct aux gouvernements et aux géants de la tech

L'encyclique s'adresse directement aux gouvernements, aux parlements et aux dirigeants des plus grandes entreprises d'IA, dans un langage que le Saint-Siège a rarement utilisé à propos d'une seule technologie commerciale. Le pape Léon appelle à des 'cadres juridiques solides, une surveillance indépendante, des utilisateurs informés et un système politique qui n'abdique pas ses responsabilités.' Il exhorte explicitement les États à 'désarmer l'IA', c'est-à-dire à retirer la technologie des intérêts purement militaires et économiques et à la placer dans des cadres conçus pour protéger le bien commun. Le pape met en garde contre la concentration du pouvoir dans un 'petit groupe d'entreprises' et le risque que l'IA creuse les inégalités et érode l'autonomie humaine.

Désarmer l'IA signifie la retirer de la logique de la compétition armée, qui aujourd'hui n'est plus seulement militaire mais économique et cognitive.

La connexion Anthropic

La présentation de l'encyclique était inhabituelle pour un texte papal, comportant une conversation publique avec Christopher Olah, cofondateur d'Anthropic. Assis à la gauche du pape, Olah a soutenu que l'IA ne peut pas être dirigée par les seuls laboratoires d'IA et a appelé à une plus grande surveillance de la part des chefs religieux, des gouvernements et de la société civile. Il a mis en garde contre une 'possibilité réelle' de chômage à grande échelle provoqué par l'IA et a noté que le développement est concentré dans 'une poignée de nations riches'. Le choix d'Anthropic a été considéré comme délibéré : l'entreprise a passé deux ans à plaider publiquement pour une surveillance externe des modèles de pointe et s'est récemment heurtée au Pentagone au sujet de l'utilisation de sa technologie pour la surveillance et les armes autonomes.

Certains pourraient croire que les questions d'IA sont mieux traitées par des informaticiens comme moi. Ils ont tort.

Le noyau moral et éthique

Au cœur de 'Magnifica Humanitas' se trouve un avertissement contre l'attribution de capacités véritablement humaines aux systèmes artificiels. Le pape écrit qu' 'aucun système de calcul, aussi sophistiqué soit-il, ne génère un cœur qui se donne, ni une conscience capable de discerner le bien.' Il prévient que l'IA peut être dangereuse lorsqu'une personne recherche soins, compagnie, conseils, amitié ou amour auprès d'elle, avertissant qu'une telle 'imitation artificielle' peut tromper et donner la fausse impression d'une relation réelle. L'encyclique rejette également la notion de neutralité algorithmique, déclarant que l'IA ne peut être considérée comme moralement neutre lorsqu'elle reproduit les stéréotypes, les préjugés ou les positions idéologiques de ses concepteurs.

Nous ne pouvons pas considérer l'IA comme moralement neutre.

Guerre, paix et décisions algorithmiques

Le pape condamne la délégation des décisions de vie ou de mort aux algorithmes, en particulier dans le domaine militaire. Il déclare que 'le jugement moral ne peut être réduit à un calcul : il implique la conscience, la responsabilité personnelle et la reconnaissance de l'autre en tant que personne.' L'encyclique réitère également la nécessité de dépasser la théorie de la 'guerre juste', que le pape dit être trop souvent invoquée pour justifier tout conflit, tout en affirmant le droit à la légitime défense au sens le plus strict. Il condamne toute tentative d'utiliser le nom de Dieu pour légitimer le terrorisme, la violence ou la guerre.

Un document fondateur du pontificat

Les analystes comparent déjà 'Magnifica Humanitas' à l'encyclique sur le climat du pape François en 2015, 'Laudato Si', qui a suscité un débat politique mondial. Anna Rowlands, universitaire britannique et conseillère de l'Église, a noté que depuis plus d'un siècle, les papes ont mis en garde contre le fait que le monde 'ne sera pas sauvé par le marché', et que le pape Léon met désormais en garde contre le fait que nous ne serons pas 'sauvés' par l'IA. L'encyclique prolonge une position que Léon développe depuis son élection, notamment un discours à l'Université La Sapienza de Rome plus tôt cette année dénonçant la guerre assistée par l'IA. Le document remplace formellement l'ancien 'Appel de Rome pour l'éthique de l'IA' du Vatican.

Aujourd'hui, le pape Léon nous met en garde : nous ne serons pas 'sauvés' par l'IA.