Motto: „A dezarma nu înseamnă a respinge tehnologia, ci a o împiedica să domine umanitatea. Înseamnă a o elibera de controlul monopolist și a o deschide discuției și dezbaterii, făcând-o astfel prietenoasă omului și redată pluralității culturilor și formelor de viață umane.” Magnifica Humanitas, § 110
„Să dezarmăm cuvintele și vom contribui la dezarmarea lumii.” Magnifica Humanitas, § 214
Reconfigurarea umanismului în epoca inteligenței artificiale
Magnifica Humanitas, publicată pe 25 mai a.c., este prima enciclică a pontificatului Papei Leon al XIV-lea. Un document de o importanță excepțională ce va intra în istorie, nu doar în istoria bisericii catolice, ci și în istoria ontologiei tehnologiei moderne și a ontologiei sociale. Semnată simbolic la 15 mai 2026, cu ocazia celei de-a 135-a aniversări a documentului de temelie al doctrinei sociale moderne, Rerum Novarum, de Papa Leon al XIII-lea, noua enciclică se poziționează ca un răspuns direct la provocările antropologice și socio-economice generate de tehnologiile moderne și în mod deosebit de ascensiunea inteligenței artificiale (IA). Adresat „tuturor credincioșilor catolici, tuturor creștinilor și oamenilor de bunăvoință”, documentul reinterpretează tradiția socială a Bisericii – de la Leon al XIII-lea până la Ioan Paul al II-lea și Francisc – în lumina unei tranziții tehnologice de proporții fără precedent.
Dacă Papa Leon al XIII-lea vorbea de „lucruri noi” (rerum novarum) ale vremii sale, Papa Leon al XIV-lea asumă și analizează și el lucrurile noi ale vremii sale, de această dată însă o vreme și o lume cu totul diferite de cele anterioare, în care tehnologiile emergente sunt țesute în viața zilnică, influențând și modelând deciziile, marcând astfel cu evidență imaginarul colectiv. „Niciodată omenirea nu a avut o putere atât de mare asupra ei însăși”- subliniază documentul.
Arhitectura structurală a enciclicii este organizată în cinci capitole, flancate de o introducere și o concluzie, ghidate teologic de două imagini biblice polare: construirea Turnului Babel (Geneza 11, 1-9) și reconstrucția zidurilor Ierusalimului sub conducerea lui Neemia (Neemia 2-6). Dacă primele două capitole trasează evoluția istorică și fundamentele teologice ale doctrinei sociale (centrate pe demnitate, solidaritate și subsidiaritate), Capitolul III (paragrafele 90–130), capitol pe care-l vom analiza în acest articol, constituie inima antropologică și filosofică a enciclicii. Intitulat „Tehnologie și dominație. Măreția umanității în lumina promisiunilor IA” (Technology and Dominance. The Grandeur of Humanity in Light of the Promises of AI), acest capitol analizează critic paradigma tehnocratică și avertizează împotriva riscului de a reduce persoana umană la o funcție optimizabilă de date, adică la conformism, performanță și eficiență.
Capitolul nu se limitează la o simplă evaluare de ordin etic a noilor tehnologii computaționale, ci propune o deconstrucție ontologică a promisiunilor acestora. Structura sa internă este definită prin trecerea de la critica structurilor socio-economice ale puterii digitale actuale și de viitor la afirmarea transcendenței specifice ființei umane.
Conceptele-cheie abordate și paragrafele de referință ale textului oficial detaliază corelația dintre secțiunile interne ale capitolului, după cum urmează: Paradigma tehnocratică și puterea digitală (paragrafele 92–95), Inteligența artificială. Un instrument prețios care cere vigilență (paragrafele 96–98), Responsabilitate, transparență și guvernanța IA (paragrafele 99–108), Ceea ce nu trebuie pierdut (paragrafele 109–111), Transumanism și postumanism (paragrafele 112–115), Limita, inima și măreția persoanei umane (paragrafele 116–118), Adevăratul „mai mult decât uman”: har și umanism creștin (paragraf 119), Două cetăți și două iubiri (paragrafele 120–121).
1. Paradigma tehnocratică și concentrarea puterii digitale
Analiza din acest capitol debutează cu o critică a structurilor de putere care finanțează și controlează dezvoltarea tehnologică în secolul XXI. În continuarea liniei directoare din Laudato Si’, Papa Leon al XIV-lea denunță în paragraful 92 „paradigma tehnocratică”, tendința generalizată de a permite „logicii eficienței, a controlului și a profitului să guverneze singură alegerile personale, sociale și economice”. Când progresul tehnic este asimilat în mod automat cu progresul uman, societatea abdică de la capacitatea ei naturală de discernământ moral. Documentul atrage atenția asupra unei transformări radicale în dinamica puterii politice mondiale: în timp ce inovațiile majore din trecut erau strâns legate de coordonarea statelor suverane, actuala revoluție computațională este condusă de un număr extrem de restrâns de corporații multinaționale ale căror bugete și baze de date depășesc resursele majorității statelor lumii, această privatizare a deciziei globale implicând riscuri iminente de subordonare sistemică. În paragraful 95, enciclica formulează una dintre cele mai curajoase și clare denunțări ale actualului stadiu al capitalismului digital:
„Aici trebuie să recunoaștem un alt aspect crucial, pe care l-am menționat anterior. În multe cazuri din contextul digital, controlul asupra platformelor, infrastructurii, datelor și puterii de calcul nu revine statelor, ci marilor actori economici și tehnologici. Când o putere de o asemenea amploare este concentrată în mâini puține, ea are tendința de a deveni opacă și de a se sustrage supravegherii publice, sporind riscul unor forme distorsionate de dezvoltare care dau naștere la noi dependențe, excluderi, manipulări și inegalități.”
Concluzia evidențiază faptul că algoritmii nu sunt instrumente inofensive folosite la nivel individual, ci reprezintă o adevărată infrastructură politică și socială invizibilă, capabilă să controleze opinia publică, să configureze și să distorsioneze comportamentele democratice.
2. Diferența ontologică dintre imitația computațională și conștiința umană
În centrul filosofiei Capitolului III se află redefinirea graniței ontologice dintre mintea umană și sistemele bazate pe modele matematice de învățare. Papa respinge categoric orice tentativă de a descrie conștiința și procesarea computațională ca fiind două puncte diferite pe un singur continuum evolutiv. În cadrul sistemelor algoritmice actuale, funcția de decizie este modelată ca optimizare probabilistică pe seturi gigantice de date istorice, care poate fi redată sintetic prin funcții matematice, această reducere a gândirii la calcul statistic excluzând complet spiritul, libertatea și intuiția morală a omului. Paragraful 99 din enciclică oferă o distincție filosofică fundamentală ce are toate șansele să rămână un punct de referință în antropologia creștină:
„Nu este posibil să se ofere o definiție unică și cuprinzătoare a IA. Ceea ce se poate afirma, totuși, este că trebuie să evităm neînțelegerea de a echivala acest tip de «inteligență» cu cea a ființelor umane. Aceste sisteme imită pur și simplu anumite funcții ale inteligenței umane. Făcând acest lucru, ele depășesc adesea inteligența umană în viteză și capacitate de calcul, oferind beneficii tangibile în multe domenii. Cu toate acestea, această putere rămâne în întregime legată de procesarea datelor. Așa-numitele inteligențe artificiale nu trec prin experiențe, nu posedă un corp, nu simt bucurie sau durere, nu se maturizează prin relații și nu știu din interior ce înseamnă iubirea, munca, prietenia sau responsabilitatea. Nici nu au o conștiință morală, de vreme ce nu judecă binele și răul, nu înțeleg sensul ultim al situațiilor și nu poartă responsabilitatea pentru consecințe. Ele pot imita limbajul, comportamentul și abilitățile analitice, sau chiar pot simula empatia și înțelegerea, dar nu înțeleg ceea ce produc, deoarece le lipsește perspectiva afectivă, relațională și spirituală prin care ființele umane cresc în înțelepciune. Chiar și atunci când aceste instrumente sunt descrise ca fiind capabile să «învețe», modul lor de a face acest lucru este diferit de cel al unei persoane umane. Nu este experiența celor care se lasă modelați de viață și cresc în timp prin alegeri, greșeli, iertare și fidelitate.”
Analiza asumă în continuare supoziția că sistemele actuale de inteligență artificială nu mai sunt construite direct prin reguli logice scrise linie de linie, ci sunt mai degrabă „cultivate” pe infrastructuri complexe, devenind în mare măsură sisteme de tip „cutie neagră” ale căror procese computaționale interne rămân parțial necunoscute chiar și celor care le construiesc și le antrenează. O realitate ce complică asumarea responsabilității morale și politice pentru erorile sau deciziile părtinitoare pe care aceste sisteme le pot genera și propaga. Textul abordează și riscul simulării mecanice a afectivității și apariția unei false intimități între oameni și agenții de conversație artificiali:
„Când cuvintele sunt simulate, ele nu construiesc relații genuine, ci doar aparența lor. Imitarea artificială a grijii sau a sprijinului poate deveni deosebit de riscantă atunci când pătrunde în contexte în care relațiile reale și legăturile emoționale lipsesc. Aici, pericolul nu este atât ca o persoană să creadă că ea comunică cu o altă persoană, ci mai degrabă ca ea să piardă treptat însăși dorința de a forma conexiuni umane autentice.”
Prin acest diagnostic Papa Leon al XIV-lea identifică un proces subtil de „atrofie morală” a societății: înlocuirea relațiilor umane complexe, care presupun efort, vulnerabilitate și iertare, cu interacțiuni simulate, „sigure și preprogramate” oferite de platformele digitale, fapt ce amenință nucleul relațional al umanității.
3. Responsabilitate, transparență și non-neutralitatea algoritmilor
Un alt pilon central al Capitolului III este demontarea mitului conform căruia tehnologia ar fi o forță neutră din punct de vedere moral, sensul și valorificarea întrebuințării ei depinzând exclusiv de intențiile bune sau rele ale utilizatorului final. Documentul afirmă fără echivoc că etica sălășluiește în actul însuși de proiectare, clasificare și optimizare a software-ului: „Nu putem considera IA ca fiind neutră din punct de vedere moral. În realitate, fiecare instrument tehnic încorporează alegeri și priorități prin ceea ce măsoară, ignoră și optimizează și prin modul în care clasifică oamenii și situațiile” (paragraf 104). Când un model algoritmic este conceput pentru a maximiza timpul de captare și reținere a atenției unui utilizator sau pentru a decide profilul de risc al unui solicitant de credit, el a impus deja criterii axiologice care nu sunt de natură matematică, ci politică, economică și morală. Dacă aceste alegeri tehnice vulnerabilizează demnitatea unei persoane sau o marginalizează, instrumentul însuși participă la structurile „păcatului social”, fenomen afirmat și explicat în paragraful 102:
„Dacă un sistem este proiectat sau utilizat într-un mod care tratează unele vieți ca fiind mai puțin demne sau le exclude fără posibilitatea de a face apel, atunci nu este doar un simplu instrument «care trebuie utilizat bine», deoarece a introdus deja criterii care contrazic demnitatea inalienabilă a persoanei umane.”
În consecință, enciclica manifestă un scepticism pronunțat față de conceptul corporatist de „aliniere a IA” (așa-numitul AI alignment), privit adesea ca o tentativă de a rezolva din punct de vedere tehnic o problemă care este în esență politică și spirituală. Papa subliniază în paragraful 108 că reglementarea și definirea binelui nu pot fi lăsate în seama consorțiilor tehnologice sau a câtorva specialiști din Silicon Valley: „Nu ne putem mulțumi doar cu apelul la moralizarea mașinilor – așa-numita «aliniere» a IA la valorile umane – fără a avea totodată curajul de a insista asupra unei condiții suplimentare: posibilitatea de a discuta deschis cadrele etice implicate și de a le supune unor standarde comune de responsabilitate socială. În caz contrar, cei care controlează IA își vor impune propria viziune morală, care va deveni infrastructura invizibilă a acestor sisteme. O IA mai morală nu este suficientă dacă această moralitate este determinată de doar câțiva.”
Concluzia ce se desprinde cu claritate este că dezvoltatorii de tehnologie poartă o „responsabilitate etică și spirituală deosebită”, întrucât fiecare opțiune de programare este o declarație antropologică cu consecințe la scară globală.
4. „Dezarmarea” inteligenței artificiale
În cadrul reflecției din subsecțiunea Ceea ce nu trebuie pierdut, paragraf 110, Papa Leon al XIV-lea introduce un concept teologic și social extrem de personal, pe care îl descrie ca fiind „foarte apropiat de inima sa”: necesitatea de „a dezarma” inteligența artificială. Această utilizare a verbului a dezarma depășește sfera armelor autonome (care face obiectul Capitolului V al acestei enciclice), vizând logica de fond a competiției economice și cognitive la nivel mondial:
„În cele din urmă, aș dori să folosesc expresia «a dezarma», care este foarte apropiată de inima mea. Dezarmarea IA înseamnă eliberarea ei de mentalitatea competiției «înarmate», care astăzi nu se limitează doar la contextul militar, ci este și un fenomen economic și cognitiv. Acest lucru implică o cursă pentru algoritmi tot mai puternici și seturi de date tot mai mari, impulsionată de dorința de a asigura dominația geopolitică sau comercială. A dezarma înseamnă discreditarea presupunerii că puterea tehnică conferă automat dreptul de a guverna.”
Așadar, dezarmarea tehnologică nu înseamnă „a respinge tehnologia, ci a o împiedica să domine umanitatea. Înseamnă eliberarea tehnologiei de sub controlul de tip monopol și deschiderea ei către discuții și dezbateri, făcând-o astfel prietenoasă cu omul și redând-o pluralității culturilor umane și modurilor de viață.” În acest context dezarmarea inteligenței artificiale este o opțiune profund democratică și ecologică. Ea înseamnă refuzul ideii că avansul tehnologic justifică subordonarea statelor, controlul total asupra vieții cetățenilor prin instrumente de supraveghere și exploatarea resurselor minerale din Sudul Global fără nicio reținere morală sau ecologică.
5. Critica transumanismului și teologia limitei
Subsecțiunile finale ale Capitolului III sunt dedicate unei deconstrucții profunde a curentelor culturale contemporane de tip transumanist și postumanist. Papa Leon al XIV-lea identifică în aceste ideologii, care pretind că eliberează ființa umană de constrângerile biologice și de vulnerabilitate, o veche eroare gnostică: disprețul față de trupul creat și încercarea de a obține totul exclusiv prin tehnică: „Atunci când eficiența devine măsura valorii, ființele umane sunt tentate să se vadă pe ele însele ca pe un proiect care trebuie optimizat, mai degrabă decât ca pe niște creaturi chemate la relație și comuniune.” Pentru a contracara această viziune instrumentală, enciclica propune și dezvoltă o „teologie a limitei și a fragilității”. Limitarea corporală (boala, bătrânețea, neputința și vulnerabilitatea) nu reprezintă deficiențe de proiectare care trebuie eliminate prin intermediul cipurilor sau al augmentării, ci realități constitutive prin intermediul cărora omul își descoperă dependența fundamentală de Creator și prin care el este provocat la solidaritate necondiționată cu semenii săi. Această deconstrucție a mitului suprimării durerii culminează în paragraful 120 cu o constatare care avertizează asupra pericolului dezumanizării totale prin tehnologizare absolutizată:
„Chiar și atunci când limitările sunt trăite ca suferință interioară, înțelepciunea umană ne învață să nu o negăm sau să o suprimăm, ci să o integrăm. A elimina suferința în întregime ar însemna, în cele din urmă, stingerea iubirii și a dorinței de asemenea.”
În sensul ei profund creștin, iubirea cere, în mod fundamental, capacitatea de a suferi pentru celălalt, încercarea de a clădi o viață imună la suferință dovedindu-se a fi o tentativă de abolire a iubirii însăși.
Cele două cetăți, cele două iubiri
Capitolul se închide cu paralela augustiniană care descria istoria ca o luptă între două iubiri ce ridică două cetăți: iubirea de Dumnezeu și iubirea de sine. Era IA nu face excepție: alegerea între Babel și Ierusalimul reconstruit începe cu și în inima fiecăruia, scopul final fiind de a rămâne umani și de a ocroti cu iubire măreția umanității care ne-a fost dăruită și pe care nicio mașină inteligentă nu o poate înlocui. Aceasta nu este și nu propune o atitudine de tip tehnofob față de inteligența artificiale, ci o curajoasă replasare a persoanei umane în centrul oricărei evoluții tehnologice și istorice, Capitolul III al enciclicei constituind o sinteză teologică și filosofică de mare anvergură, destinată să devină un document de referință pentru deceniile următoare în dialogul dintre știință, credință și etica politică.
