Pápež Leo XIV v pondelok vyzval na 'odzbrojenie' umelej inteligencie vo svojom dlho očakávanom manifeste o rýchlo sa rozvíjajúcej technológii a varoval pred 'novými formami otroctva', ktoré jej vzostup sprevádzajú. Prvý americký pápež upozornil na 'závod za stále mocnejšími algoritmami a väčšími dátovými súbormi', poháňaný túžbou po geopolitickej alebo komerčnej dominancii.

Svoju prvú encykliku 'Magnifica Humanitas' (Veľkolepá ľudskosť) predstavil osobne vo Vatikáne spolu s odborníkmi na AI, vrátane Christophera Olaha, spoluzakladateľa americkej spoločnosti Anthropic. Táto spoločnosť je zapletená do právneho sporu s americkou armádou po tom, čo sa postavila proti použitiu svojej technológie na smrteľné autonómne vojny a masové sledovanie.

Olah na prezentácii uviedol, že AI spoločnosti fungujú 'v rámci súboru stimulov a obmedzení, ktoré môžu niekedy byť v rozpore s tým, čo je správne'. Privítal vstup vonkajších aktérov, ako je Katolícka cirkev, aby 'posunuli udalosti lepším smerom', pričom dodal, že 'otázky, ktoré AI vyvoláva, sú väčšie než komunita výskumníkov AI'.

Leo prijal Olahovu výzvu 'kráčať spolu, počúvať a hovoriť a spoločne nájsť cestu pre ľudstvo'. Vyjadril dôveru, že 'spoločne dokážeme rozpoznať hlavné otázky našej doby a tým aj budúcnosť ľudstva'.

Pápež uviedol, že pri príprave svojho manifestu počúval vedcov, inžinierov, politických lídrov, rodičov a učiteľov a počul 'veľmi znepokojujúce hlasy' ako aj 'ticho tých, ktorí nemajú hlas'. AI musí byť 'oslobodená od logiky, ktorá ju mení na nástroj dominancie, vylúčenia a smrti', povedal.

V encyklike Leo varoval pred zbraňami riadenými AI, pričom uviedol, že 'nie je prípustné zveriť smrteľné rozhodnutia technológii'. Leo sa opakovane dostal do konfliktu s Bielym domom kvôli vojne v Iráne a jej využívaniu náboženstva na ospravedlnenie konfliktu. Teória 'spravodlivej vojny', ktorú nedávno podporila Trumpova administratíva, bola podľa Lea 'zastaraná', pričom dodal, že 'žiadny algoritmus nemôže urobiť vojnu morálne prijateľnou'.

Podľa OSN by AI mohla mať do roku 2033 hodnotu až 4,8 bilióna dolárov, čo predstavuje 25-násobný nárast za desaťročie, pričom zisky by sa koncentrovali v rukách obmedzeného počtu ľudí. 'Odzbrojenie AI znamená oslobodiť ju od mentality 'ozbrojenej' súťaže,' napísal pápež. 'Odzbrojiť neznamená odmietnuť technológiu, ale zabrániť jej, aby dominovala ľudstvu,' dodal.

AI by mala byť 'priateľská k ľuďom', prístupná všetkým a otvorená diskusii a debate. Hlava 1,4 miliardy katolíkov na svete urobila z tejto horúcej témy základný kameň svojho pontifikátu tým, že jej venovala svoju prvú encykliku – dokument, ktorý tvorí základ pre učenie Cirkvi a dlhodobú diskusiu.

Manifest odkazuje na rôzne kultúrne osobnosti, od gréckeho filozofa Platóna po Beethovena a jeho Deviatu symfóniu, dokonca cituje postavu z Tolkienovho 'Pána prsteňov'. 'Magnifica Humanitas' bola podpísaná 15. mája, na 135. výročie encykliky Lea XIII., ktorá položila základy sociálnej doktríny Cirkvi počas priemyselnej revolúcie.

Leo varoval pred novými formami otroctva, ktoré poháňajú technologickú revolúciu, pričom poznamenal, že 'nič vo svete AI nie je nemateriálne alebo magické'. 'Každá zdanlivo okamžitá a bezchybná odpoveď... sa spolieha na tichú prácu miliónov ľudí', od moderátorov obsahu nútených sledovať znepokojujúci materiál po deti, ktoré ťažia vzácne zeminy, na ktorých AI závisí. Sú 'zjazvení, zranení a opotrebovaní, aby výpočtový tok mohol pokračovať nepretržite', napísal.

Vyššia efektivita alebo inovácie neospravedlňujú 'reťazec vykorisťovania, ktorý zostáva úmyselne skrytý', napísal, pričom treba urobiť viac na zníženie environmentálneho dopadu AI a 'ochranu nášho spoločného domova'.

Taktiež vydal bezprecedentnú ospravedlnenie za úlohu Vatikánu v obchode s otrokmi a pri pomoci ospravedlniť otroctvo, pričom uviedol, že to bola 'rana v kresťanskej pamäti'. 'Za to, v mene Cirkvi, úprimne prosím o odpustenie,' napísal Leo.

Uvoľnenie textu nasleduje po niekoľkých rokoch štúdia Cirkvi o technológiách súvisiacich s AI. Už v roku 2020 Svätá stolica spustila 'Rímsku výzvu pre etiku AI', ktorá vyzývala nové technológie, aby rešpektovali ľudskú dôstojnosť. Odborníci tvrdia, že 'Magnifica Humanitas' by mohla byť rovnako vplyvná ako 'Laudato Si' pápeža Františka, klimatický manifest z roku 2015, ktorý vyvolal politické a občianske reakcie po celom svete.