Papież Leon XIV wydaje przełomową encyklikę o AI 'Magnifica Humanitas', wzywając do globalnego spowolnienia i 'rozbrojenia' sztucznej inteligencji

Papież Leon XIV oficjalnie włączył się w globalną debatę nad sztuczną inteligencją, publikując swoją pierwszą encyklikę 'Magnifica Humanitas' (Wspaniałe Człowieczeństwo). Podpisana 15 maja, w 135. rocznicę przełomowej encykliki społecznej 'Rerum Novarum', została przedstawiona światu w poniedziałek w watykańskiej Aula Nuova del Sinodo. Tekst liczący 231 stron w pięciu rozdziałach jest odczytywany w stolicach politycznych i finansowych zarówno jako analiza regulacji technologicznych, jak i dokument teologiczny.

Bezpośrednie przesłanie do rządów i Big Tech

Encyklika zwraca się bezpośrednio do rządów, parlamentów i dyrektorów największych firm AI, językiem, jakiego Stolica Apostolska rzadko używała w odniesieniu do pojedynczej komercyjnej technologii. Papież Leon wzywa do 'solidnych ram prawnych, niezależnego nadzoru, świadomych użytkowników i systemu politycznego, który nie uchyla się od odpowiedzialności'. Wyraźnie zachęca państwa do 'rozbrojenia AI', czyli usunięcia technologii spod wyłącznych wpływów militarnych i ekonomicznych oraz umieszczenia jej w ramach służących dobru wspólnemu. Papież ostrzega przed koncentracją władzy w 'małej grupie firm' i ryzykiem, że AI pogłębi nierówności i osłabi ludzką sprawczość.

Rozbrojenie AI oznacza usunięcie jej z logiki zbrojnej rywalizacji, która dziś nie jest już tylko militarna, ale ekonomiczna i poznawcza.

Powiązanie z Anthropic

Prezentacja encykliki była nietypowa dla papieskiego tekstu – odbyła się publiczna rozmowa z Christopherem Olahem, współzałożycielem Anthropic. Siedzący po lewej stronie papieża Olah argumentował, że AI nie może być sterowane wyłącznie przez laboratoria AI, i wezwał do większego nadzoru ze strony przywódców religijnych, rządów i społeczeństwa obywatelskiego. Ostrzegł przed 'realną możliwością' masowego bezrobocia spowodowanego przez AI i zauważył, że rozwój koncentruje się w 'garstce bogatych narodów'. Wybór Anthropic uznano za celowy: firma od dwóch lat publicznie opowiada się za zewnętrznym nadzorem nad modelami granicznymi i niedawno starła się z Pentagonem w sprawie wykorzystania jej technologii do nadzoru i autonomicznej broni.

Niektórzy mogą sądzić, że kwestie AI najlepiej pozostawić informatykom takim jak ja. Mylą się.

Rdzeń moralny i etyczny

Sercem 'Magnifica Humanitas' jest ostrzeżenie przed przypisywaniem prawdziwie ludzkich zdolności systemom sztucznym. Papież pisze, że 'żaden system obliczeniowy, jakkolwiek wyrafinowany, nie generuje serca, które się oddaje, ani sumienia zdolnego odróżnić dobro'. Przestrzega, że AI może być niebezpieczne, gdy człowiek szuka od niego opieki, towarzystwa, rady, przyjaźni lub miłości, ostrzegając, że takie 'sztuczne naśladownictwo' może oszukiwać i stwarzać fałszywe wrażenie prawdziwej relacji. Encyklika odrzuca również pojęcie algorytmicznej neutralności, stwierdzając, że AI nie może być uważane za moralnie neutralne, gdy reprodukuje stereotypy, uprzedzenia lub ideologiczne stanowiska swoich twórców.

Nie możemy uważać AI za moralnie neutralne.

Wojna, pokój i decyzje algorytmiczne

Papież potępia delegowanie decyzji o życiu i śmierci algorytmom, szczególnie w domenie militarnej. Stwierdza, że 'sąd moralny nie może zostać zredukowany do kalkulacji: wymaga sumienia, osobistej odpowiedzialności i uznania drugiego jako osoby'. Encyklika powtarza również potrzebę wyjścia poza teorię 'wojny sprawiedliwej', która – jak mówi papież – jest zbyt często przywoływana, by usprawiedliwić każdy konflikt, potwierdzając jednocześnie prawo do uzasadnionej samoobrony w najściślejszym sensie. Potępia wszelkie próby używania imienia Boga do legitymizacji terroryzmu, przemocy lub wojny.

Dokument definiujący pontyfikat

Analitycy już porównują 'Magnifica Humanitas' do encykliki klimatycznej papieża Franciszka z 2015 roku 'Laudato Si'', która wywołała globalną debatę polityczną. Anna Rowlands, brytyjska naukowczyni i doradczyni kościelna, zauważyła, że od ponad wieku papieże ostrzegają, iż świat 'nie zostanie zbawiony przez rynek', a papież Leon ostrzega teraz, że nie zostaniemy 'zbawieni' przez AI. Encyklika rozszerza stanowisko, które Leon rozwijał od czasu swojego wyboru, w tym przemówienie na Uniwersytecie La Sapienza w Rzymie na początku tego roku, potępiające wojnę z użyciem AI. Dokument formalnie zastępuje wcześniejszy watykański 'Rzymski Apel o Etykę AI'.

Dziś papież Leon ostrzega, że nie zostaniemy 'zbawieni' przez AI.