Papst Leo XIV. fordert ein Verbot tödlicher autonomer Waffen und warnt davor, Entscheidungen an KI zu delegieren

Ein Aufruf zur Entwaffnung der KI

Papst Leo XIV. sagte am Freitag, 30. Oktober 2026, künstliche Intelligenz müsse entwaffnet werden, und einige Entscheidungen dürften niemals an Maschinen abgegeben werden. Er sprach vor einer Versammlung von KI-Forschern und Fachleuten im Vatikan, die von der Päpstlichen Akademie für das Leben und dem Future of Life Institute mitgetragen wurde. Das Treffen bot auch der vatikanischen KI-Kommission die Gelegenheit, mit Fachleuten des Bereichs ins Gespräch zu kommen. Der Papst drängte die Staaten, die im November in Genf zusammenkommen, konkrete Schritte für ein Verbot tödlicher autonomer Waffen zu unternehmen. Seine Argumentation begann er mit einer schlichten Warnung.

„Manche Entscheidungen dürfen niemals delegiert werden.“

Menschliche Kontrolle über Leben und Gewalt

Zentrale Forderung des Papstes war, dass Entscheidungen, die menschliches Leben, Freiheit und die Anwendung von Gewalt betreffen, unter menschlicher Kontrolle bleiben. Er nannte zwei Fälle, in denen er die Gefahr sah: einen Menschen, der auf eine Zielliste gesetzt wird, und einen Menschen, der für die Grenzkontrolle in eine Datenbank eingetragen wird. In beiden Fällen drohe, so sagte er, dass der Betroffene auf einen bloßen Datenpunkt reduziert werde. Er formulierte den Grundsatz in einem Satz, den auch italienische und rumänische Berichte über die Rede wiedergeben.

„Entscheidungen, die menschliches Leben, Freiheit und die Anwendung von Gewalt betreffen, müssen stets einer wirksamen, informierten und verantwortungsvollen menschlichen Kontrolle unterliegen.“

Maschinen sind Werkzeuge, keine Personen

Der Papst sagte, Maschinen seien Werkzeuge und keine Personen, und er warnte vor Vorschlägen, KI-Systemen Rechte oder Rechtspersönlichkeit zu verleihen. Ein solcher Ansatz könne die menschliche Verantwortung verwischen und die Geschädigten einem unpersönlichen Gebilde gegenüberstellen, argumentierte er. In der italienischen Berichterstattung wurde er mit den Worten zitiert, diese Systeme hätten keine Erfahrungen, keinen Körper und keine Fähigkeit, Freude oder Schmerz zu empfinden. Er sagte zudem, die Zukunft der KI sei nicht vorherbestimmt, sondern hänge von den Entscheidungen der Menschen ab. In der rumänischen Berichterstattung über die Ansprache fasste er die zentrale Frage so, welchem Zweck KI dienen solle und nicht nur, wozu sie fähig sei. Die Menschen, so sagte er, trügen die Verantwortung, KI-Anwendungen zu lenken und zu verändern und jene abzulehnen, die als gefährlich gelten.

Institutionen und das Gemeinwohl

Der Papst bezeichnete den institutionellen ethischen Rahmen als die dringlichste Herausforderung im KI-Bereich. Die Leitprinzipien seien bereits bekannt, doch die Institutionen, die das globale Gemeinwohl schützen könnten, fehlten noch. Er forderte gemeinsame Standards, unabhängige Aufsicht und klare Rechenschaftspflichten, damit KI-Entscheidungen überprüft, bei Bedarf angefochten und Schäden wiedergutgemacht werden können. Seine Enzyklika von 2026, Magnificent Humanity, hatte bereits eine robuste Regulierung der KI gefordert und von den Entwicklern verlangt, das Gemeinwohl statt den Profit zu verfolgen. Am Freitag hob er viele Kernpunkte jenes Dokuments hervor, darunter die Auffassung, dass die Zukunft der KI nicht vorherbestimmt sei.

Hintergrund und wie es weitergeht

Papst Franziskus hatte 2024 einen ähnlichen Aufruf gemacht:

„Keine Maschine sollte jemals entscheiden, einem Menschen das Leben zu nehmen.“

Der Appell von Papst Leo XIV. richtet sich an die Staaten, die im November in Genf zusammenkommen – den Monat, den er für dieses Treffen nannte. Die folgende Zeitleiste ordnet seine Äußerungen neben dem früheren päpstlichen Aufruf und dem Genfer Treffen ein.

Die Artikel beschreiben keine Zusagen, welche die Staaten vor diesem Treffen gemacht hätten.