Pápež Lev XIV hovorí, že umelú inteligenciu treba „odzbrojiť“, keďže svetoví lídri a súkromné spoločnosti zvyšujú využitie technológie v mnohých ľudských činnostiach vrátane vojny.
Pápež v pondelok v prvej encyklike svojho pápežstva s názvom Magnifica humanitas: O ochrane ľudskej osoby v čase umelej inteligencie varoval pred „pretekom o stále výkonnejšie algoritmy a väčšie súbory údajov“, ktorý vedie „túžba zabezpečiť geopolitickú alebo komerčnú dominanciu“.
Odporúčané príbehy
zoznam 3 položiekkoniec zoznamu
Vodca katolíckej cirkvi predstavil encykliku vo Vatikáne spolu s odborníkmi na AI, vrátane Christophera Olaha, spoluzakladateľa gigantu AI Anthropic so sídlom v Spojených štátoch.
Encykliky sú listy napísané pápežom a zaslané katolíckym biskupom. V posledných desaťročiach sa stali jednou z najvyšších foriem učenia od pápeža pre 1,4 miliardy členov cirkvi.
Čo povedal pápež vo svojej prvej encyklike a prečo je to dôležité? Tu je to, čo vieme:
Čo povedal pápež o AI?
Od svojho zvolenia v máji 2025 Leo urobil z témy umelej inteligencie základný kameň svojho pápežstva.
Podľa Vatican News v novembri hovoril o tom, ako treba technológiu v zdravotníctve využívať zodpovedne. O mesiac neskôr povedal, že AI by nemala brániť novým generáciám a dodal, že je dôležité „obnoviť a posilniť“ „dôveru mladých ľudí v ľudskú schopnosť riadiť vývoj nových technológií, ako je umelá inteligencia, a nepovažovať tento vývoj za nevyhnutný.
Ale tým, že pápež urobil z AI hlavný ťah svojej prvej encykliky, zmenil svoje obavy na náboženské vedenie, ktoré bude komunikované v rámci najväčšej kresťanskej denominácie na svete, ku ktorej patrí polovica kresťanov na svete.
Vo svojej encyklike, ktorá zahŕňa takmer 43 000 slov, pápež trval na tom, že AI nesmie byť ponechaná výlučne v súkromných rukách, a vyzval politikov, aby chránili práva pracovníkov a chránili deti pred touto technológiou. Vyzval tiež spoločnosti AI, aby ochladili svoju konkurenciu.
Vydal „špeciálnu výzvu“ pre vývojárov AI a povedal: „Vývojári nesú osobitnú etickú a duchovnú zodpovednosť, pretože každá voľba dizajnu odráža víziu ľudstva.“
„Potrebujeme aktívnejšiu politickú angažovanosť, ktorá dokáže veci spomaliť, keď sa všetko zrýchľuje,“ povedal Leo.
Olah, ktorý vystúpil pri prezentácii encykliky, uviedol, že spoločnosti AI fungujú „v rámci súboru stimulov a obmedzení, ktoré môžu byť niekedy v rozpore s konaním správnej veci“. Uznal, že vývojári AI sa musia zamerať na zabezpečenie toho, aby nedochádzalo k rozsiahlej strate pracovných miest v dôsledku technológie, a riešiť nevyriešenú otázku, ako interpretovať čoraz zložitejšie a niekedy neprehľadné správanie systému.
Pápež vyzval na „pevné právne rámce, nezávislý dohľad, informovaných používateľov a politický systém, ktorý sa nevzdá svojej zodpovednosti“.
„Umelá inteligencia teraz vyžaduje, aby bola odzbrojená, oslobodená od logiky, ktorá ju mení na nástroj nadvlády, vylúčenia a smrti,“ povedal. „Rovnako ako jadrová energia musí slúžiť všetkým a spoločnému dobru.“
Pápež tiež varoval, že AI normalizuje vojnu.
V marci americká armáda potvrdila používanie „rôznych“ nástrojov AI v americko-izraelskej vojne proti Iránu, keďže rástli obavy z narastajúcich civilných obetí v konflikte. V roku 2024 Al-Džazíra a ďalšie médiá odhalili, že systémy umelej inteligencie prepojené s Izraelom, ako napríklad Lavender a Gospel, pomohli vytvoriť tisíce vojenských cieľov v Gaze.
„Z tohto dôvodu musí vývoj a používanie AI vo vojne podliehať najprísnejším etickým obmedzeniam, aby sa zaručila úcta k ľudskej dôstojnosti a posvätnosti života a aby sa zabránilo pretekom vo vývoji takýchto zbraní,“ napísal pápež.
Vyhlásil tiež poplach v súvislosti so zbraňami riadenými AI a povedal, že „nie je dovolené zveriť smrteľné“ rozhodnutia technológii.
Pápež sa tiež opakovane stretával s Bielym domom v súvislosti s americko-izraelskou vojnou proti Iránu a jeho používaním náboženstva na ospravedlnenie konfliktu.
Teória „spravodlivej vojny“, ktorú nedávno presadzovala administratíva amerického prezidenta Donalda Trumpa, je „zastaraná,“ napísal Leo a dodal, že „žiadny algoritmus nemôže urobiť vojnu morálne prijateľnou“.
Aké významné sú názory pápeža na AI?
V posledných rokoch Silicon Valley značne investuje do AI. V januári Amazon, druhý najväčší súkromný zamestnávateľ v USA po Walmarte, prepustil 16 000 zamestnancov, čo je posledné kolo rozsiahleho prepúšťania kvôli AI. V októbri The New York Times informovali, že spoločnosť plánuje „nahradiť viac ako pol milióna pracovných miest robotmi“.
Okrem straty pracovných miest hrozili aj dátové centrá AI, ktoré trénujú a prevádzkujú modely AI na vykonávanie úloh, že vytlačia ľudí z ich domovov v krajinách ako India.
Okrem toho podľa UNICEF „rastúca prevaha nástrojov na vytváranie obrázkov alebo videí poháňaných umelou inteligenciou, ktoré produkujú materiál so sexuálnym zneužívaním detí, znamená významnú eskaláciu rizík pre deti prostredníctvom digitálnych technológií“.
V tomto kontexte je varovanie o AI po prvý raz, čo pápež urobil potlačovanie Big Tech ústredným bodom celej encykliky.
Minulí pápeži sa venovali technológii na konferenciách a v častiach svojich encyklík.
Pápež František vo svojej encyklike z roku 2015, ktorá sa venovala životnému prostrediu a klimatickým zmenám, venoval časť technológií a hovoril o tom, ako by technológie mali byť prospešné pre svet a nie prehlbovať rozpory a nerovnosť.
V októbri 2021 František vo svojom prejave z Vatikánu na Svetovom stretnutí ľudových hnutí prostredníctvom videa tiež povedal: „Je jasné, že technológia môže byť nástrojom dobra a skutočne, je to nástroj dobra, ktorý umožňuje dialógy, ako je tento, a mnohé iné veci, ale nikdy nemôže nahradiť kontakt medzi nami. Nikdy nemôže nahradiť komunitu, v ktorej môžeme byť zakorenení a ktorá zaisťuje, že náš život môže byť plodom.“
„V mene Boha žiadam technologických gigantov, aby prestali využívať ľudskú slabosť, zraniteľnosť ľudí v záujme zisku bez toho, aby sa starali o šírenie nenávistných prejavov, groomingu, falošných správ, konšpiračných teórií a politickej manipulácie,“ dodal Francis.
Pápež Benedikt XVI. vo svojej encyklike z roku 2009 v jednej časti skúmal aj technologický rozvoj a varoval, že by nemal podporovať dehumanizáciu.
Čo ešte povedal Leo?
Zatiaľ čo sa Leova encyklika vo veľkej miere zameriavala na AI, venoval sa aj úlohe Katolíckej cirkvi v otroctve a „úprimne požiadal o odpustenie“ v mene Vatikánu.
Vatikán trval na tom, že vždy podporoval dôstojnosť všetkých ľudských bytostí ako Božích detí. Ale séria smerníc z 15. storočia z Vatikánu oprávňovala portugalských panovníkov dobyť Afriku a Ameriku a zotročiť nekresťanov.
Minulí pápeži sa ospravedlnili za účasť kresťanov na transatlantickom obchode s otrokmi. Žiadny pápež však nikdy verejne nepriznal ani sa neospravedlnil za úlohu, ktorú zohrali minulí pápeži pri schvaľovaní kolonizácie a zotročovania európskymi vládcami.
„Nie je možné necítiť hlboký smútok pri kontemplácii obrovského utrpenia a poníženia, ktoré znášajú toľkí v príkrom rozpore s ich nesmiernou dôstojnosťou osôb nekonečne milovaných Pánom,“ napísal Leo.
„Za to v mene cirkvi úprimne žiadam o odpustenie,“ dodal.
„Toto je rana v kresťanskej pamäti, od ktorej sa nemôžeme považovať za oddelenú,“ dodal.
Shannen Dee Williamsová, historička z University of Dayton v americkom štáte Ohio a autorka histórie amerických čiernokatolíckych mníšok z roku 2022 s názvom Subversive Habits, privítala ospravedlnenie ako „monumentálny krok smerom k takému druhu zásadného rozprávania pravdy a nápravy, o ktorých sa mnohí katolíci modlili a pracovali, aby boli svedkami“.
„Katolícka cirkev nikdy nebola nevinným predstaviteľom v histórii nadvlády bielych,“ povedal Williams pre The Associated Press.
„Čierni katolíci dlho čakali, kým si vypočuli, že Vatikán úprimne hovorí o vedúcich úlohách cirkvi v transatlantickom obchode s otrokmi a otroctve majetku, a teda aj o pretrvávajúcich systémoch protičernošského rasizmu v dnešnom svete.“
