Papst Leo XIV. veröffentlicht wegweisende KI-Enzyklika »Magnifica Humanitas« und fordert globales Innehalten und »Abrüstung« der künstlichen Intelligenz

Papst Leo XIV. hat sich mit der Veröffentlichung seiner ersten Enzyklika, »Magnifica Humanitas« (Erhabene Menschlichkeit), formell in die globale Debatte über künstliche Intelligenz eingeschaltet. Unterzeichnet am 15. Mai, dem 135. Jahrestag der wegweisenden Sozialenzyklika »Rerum Novarum«, wurde das Dokument am Montag in der Aula Nuova del Sinodo im Vatikan der Öffentlichkeit vorgestellt. Der 231 Seiten umfassende Text in fünf Kapiteln wird in Polit- und Finanzmetropolen ebenso als eine Art Analyse zur Technologieregulierung wie als theologisches Dokument gelesen.

Eine direkte Botschaft an Regierungen und Big Tech

Die Enzyklika richtet sich direkt an Regierungen, Parlamente und die Führungskräfte der größten KI-Unternehmen – in einer Sprache, die der Heilige Stuhl selten für eine einzige kommerzielle Technologie verwendet hat. Papst Leo fordert »robuste rechtliche Rahmenbedingungen, unabhängige Aufsicht, informierte Nutzer und ein politisches System, das sich seiner Verantwortung nicht entzieht«. Er appelliert ausdrücklich an die Staaten, »KI abzurüsten«, das heißt, die Technologie aus rein militärischen und wirtschaftlichen Interessen herauszulösen und in Rahmenwerke zu stellen, die dem Gemeinwohl dienen. Der Papst warnt vor der Machtkonzentration bei einer »kleinen Gruppe von Unternehmen« und der Gefahr, dass KI die Ungleichheit verschärft und die menschliche Handlungsfähigkeit untergräbt.

KI abzurüsten bedeutet, sie aus der Logik des bewaffneten Wettbewerbs zu entfernen, der heute nicht mehr nur militärisch, sondern auch wirtschaftlich und kognitiv ist.

Die Anthropic-Verbindung

Die Präsentation der Enzyklika war für einen päpstlichen Text ungewöhnlich: Sie beinhaltete ein öffentliches Gespräch mit Christopher Olah, Mitbegründer von Anthropic. Olah, der zu seiner Linken saß, argumentierte, dass KI nicht allein von KI-Laboren gesteuert werden könne, und forderte eine stärkere Aufsicht durch religiöse Führer, Regierungen und die Zivilgesellschaft. Er warnte vor einer »realen Möglichkeit« einer durch KI verursachten Massenarbeitslosigkeit und wies darauf hin, dass die Entwicklung sich auf eine Handvoll reicher Nationen konzentriere. Die Wahl von Anthropic wurde als bewusst angesehen: Das Unternehmen setzt sich seit zwei Jahren öffentlich für eine externe Aufsicht über Spitzenmodelle ein und geriet kürzlich mit dem Pentagon aneinander, als es um den Einsatz seiner Technologie für Überwachung und autonome Waffen ging.

Manche mögen glauben, dass KI-Angelegenheiten am besten von Informatikern wie mir behandelt werden. Sie irren.

Der moralische und ethische Kern

Im Zentrum von »Magnifica Humanitas« steht eine Warnung davor, künstlichen Systemen genuin menschliche Fähigkeiten zuzuschreiben. Der Papst schreibt: »Kein noch so ausgeklügeltes Rechensystem erzeugt ein Herz, das sich verschenkt, noch ein Gewissen, das Gut und Böse zu unterscheiden vermag.« Er warnt davor, dass KI gefährlich werden kann, wenn ein Mensch von ihr Fürsorge, Kameradschaft, Rat, Freundschaft oder Liebe sucht, und mahnt, dass solche »künstliche Nachahmung« täuschen und den falschen Eindruck einer echten Beziehung erwecken könne. Die Enzyklika verwirft auch die Vorstellung algorithmischer Neutralität und stellt fest, dass KI nicht als moralisch neutral betrachtet werden könne, wenn sie Stereotype, Vorurteile oder ideologische Positionen ihrer Entwickler reproduziert.

Wir können KI nicht als moralisch neutral betrachten.

Krieg, Frieden und algorithmische Entscheidungen

Der Papst verurteilt die Delegation von Entscheidungen über Leben und Tod an Algorithmen, insbesondere im militärischen Bereich. Er erklärt: »Moralische Urteile können nicht auf eine Berechnung reduziert werden: Sie erfordern Gewissen, persönliche Verantwortung und die Anerkennung des anderen als Person.« Die Enzyklika bekräftigt zudem die Notwendigkeit, über die Theorie des »gerechten Krieges« hinauszugehen, die der Papst zufolge allzu oft zur Rechtfertigung jedweden Konflikts herangezogen wird, während gleichzeitig das Recht auf legitime Selbstverteidigung im strengsten Sinne bekräftigt wird. Er verurteilt jeden Versuch, den Namen Gottes zur Legitimierung von Terrorismus, Gewalt oder Krieg zu missbrauchen.

Ein prägendes Dokument eines Pontifikats

Analysten vergleichen »Magnifica Humanitas« bereits mit der Klimaenzyklika »Laudato Si‘« von Papst Franziskus aus dem Jahr 2015, die eine globale politische Debatte auslöste. Anna Rowlands, eine britische Akademikerin und Kirchenberaterin, stellte fest, dass Päpste seit über einem Jahrhundert davor warnen, dass die Welt »nicht vom Markt gerettet werde«, und dass Papst Leo nun davor warne, dass wir nicht durch KI »gerettet« würden. Die Enzyklika erweitert eine Position, die Leo seit seiner Wahl entwickelt hat, darunter eine Rede an der Universität La Sapienza in Rom zu Beginn dieses Jahres, in der er die durch KI ermöglichte Kriegsführung anprangerte. Das Dokument ersetzt formell den früheren vatikanischen »Rome Call for AI Ethics«.

Heute warnt Papst Leo davor, dass wir nicht durch KI 'gerettet' werden.