Ce spune despre umanitate frica irațională proiectată asupra tehnologiei A.I.

Legea 1: Un robot nu are voie să pricinuiască vreun rău unei ființe umane, sau, prin neintervenție, să permită ca unei ființe omenești să i se facă un rău. Legea 2: Un robot trebuie să se supună ordinelor date de către o ființă umană, atât timp cât ele nu intră în contradicție cu Legea 1. Legea 3: Un robot trebuie să-și protejeze propria existență, atât timp cât acest lucru nu intră în contradicție cu Legea 1 sau Legea 2.

Isaac Asimov, 1942 – Legile roboților și mașinilor inteligente

CE (SAU CINE?) ESTE A.I. ȘI CEA VREA EA (DE LA NOI?) – COMPENDIU PENTRU DILETANȚI

Treaba cu A.I. se complică atunci când toată lumea se pricepe la ce este, ce înseamnă și cum anume ne va afecta această tehnologie, la fel cum se pricepe la fotbal, pescuit, vinuri și așa mai departe. Eu știu că nu mă pricep, dar știu și că această tehnologie poate crea o sumă întreagă de instrumente de care trebuie să ne folosim, dacă vrem să continuăm să progresăm.

Privind din această perspectivă, nu înțeleg de ce anume trebuie să se opunem tehnologiei A.I., doar pentru că unii sunt speriați în mod irațional de perspectivele sale de evoluție și accept ideea că este nevoie de un set de reglementări care să ne asigure – în anumite limite – că dezvoltarea instrumentelor A.I. va veni în sprijinul omenirii, al protejării libertăților individuale și demnității umane.

Ca să înțeleg mai mult și mai aplicat ce anume implică (sau poate să implice în perspectivă) interacțiunea om–robot dotat cu A.I., am urmărit (și) un foarte interesant dialog purtat pe această temă la Metope[1] de Theodor Paleologu cu antropologul Alec Bălășescu[2] și voi rezuma în câteva fraze aspectele care mi-au reținut atenția, în beneficiul analizei mele.

Mai întâi, ar fi util să ne reamintim că, în anul 322 î.Hr., Aristotel anticipa robotul – unealta inteligentă, pe care o definea cam așa: Dacă fiecare unealtă ar putea face, la ordin sau din proprie inițiativă, munca ce i se potrivește, atunci n-ar mai fi nevoie nici de ucenici pentru meșter, nici de sclavi pentru stăpâni.

Astăzi imaginea robotului ne este familiară, așa cum probabil mulți dintre noi au auzit și că celebrul scriitor de romane de anticipație Isaac Asimov a definit în urmă cu opt decenii cele trei legi ale roboticii, menite să fixeze un cadru etic în care pot funcționa sau pot fi utilizate aceste unelte inteligente anticipate cândva de Aristotel.

Uneltele „inteligente” de astăzi se bazează în funcționarea lor pe algoritmi. Noțiunea de „algoritm” și-a primit numele de la matematicianul persan din secolul VIII–IX, Muhammad Ibn Mūsā al-Khwārizmī, care ne-a dat algebra, trigonometria și cifrele arabe; în limba italiană numele său arab prescurtat – Al-Kwārizmī – a fost preluat sub formele Al-Gorizmi sau Al-Goritmi, ca autor al unor teorii, raționamente și modele de calcul matematic.

Gottfried Wilhelm von Leibniz este cel care a făcut posibilă utilizarea algoritmilor așa cum îi cunoaștem astăzi, în încercarea de a raționaliza gândirea asupra realității subiective.

Ce este un algoritm? Wikipedia ne oferă următoarea informație: algoritm înseamnă în matematică și în informatică o metodă sau o procedură de calcul, alcătuită din pașii sau operațiile elementare necesare pentru rezolvarea unei probleme sau categorii de probleme. Algoritmul este noțiunea centrală a informaticii și se implementează prin programarea adecvată a unei mașini de calcul.

Alec Bălășescu ne atenționează că algoritmul nu este o noțiune care se consumă integral în sfera matematică, așa că oferă și o altă definiție: algoritmul este un model de gândire foarte specific, care atribuie o anumită cale prin care se poate ajunge la o concluzie sau la mai multe concluzii, pe baza unor date anterioare, preexistente, cunoscute.

Un algoritm depinde de premise și de modul în care este conceput, construit. Desigur, premisele sunt produse umane, deci prin definiție subiective și nu obiective. Algoritmul este dependent de feedback-ul pozitiv, în funcție de care își desfășoară logica de  parcurs.

De aici apar problemele, atunci când ne vine greu să înțelegem că algoritmii care stau la baza unei mașini inteligente prelucrează premise subiective, pe care le trec prin mai multe bucle de decizie (amplificându-le, de ce nu, dacă se primesc feedback-uri pozitive) și se ajunge la un rezultat pe care omul are tendința să-l considere obiectiv și rațional. Rațional este, dar nu și obiectiv, din motivele expuse.

„Inteligență artificială”, ne atenționează Alec Bălășescu, nu este tocmai noțiunea potrivită, în condițiile în care ne trimite cu gândul la ideea de „inteligență” a unei mașini (aplicații), care eventual ar putea fi comparată cu inteligența umană. De fapt, termenul este utilizat la modul colocvial pentru a descrie funcționarea unor mașini (aplicații) care imită funcții cognitive cum ar fi învățarea sau rezolvarea unor sarcini / probleme.

Andreas Kaplan și Michael Haenlein definesc A.I. ca fiind capacitatea unui sistem de a interpreta corect datele externe, de a învăța din astfel de date și de a folosi ceea ce a învățat pentru a atinge obiective și sarcini specifice printr-o adaptare flexibilă și clasifică inteligența artificială în trei tipuri: inteligență artificială (i) analitică, (ii) inspirată de om, și (iii) umanizată.[3]

A.I. analitică are câteva caracteristici compatibile cu inteligența cognitivă – generează o reprezentare cognitivă a lumii și utilizează învățarea bazată pe experiențe anterioare pentru a-și întemeia deciziile viitoare. A.I. inspirată de om are elemente din inteligența cognitivă și emoțională – înțelegerea emoțiilor umane, în plus față de elementele cognitive, și luarea în considerare a acestora în luarea deciziilor. A.I. umanizată prezintă caracteristicile tuturor tipurilor de competențe – de exemplu, inteligența cognitivă, emoțională și socială -, fiind capabilă să fie oarecum conștientă de sine ca atare, cât și în interacțiunile cu mediul extern.

Scopul general al cercetării inteligenței artificiale este de a crea o tehnologie care să permită calculatoarelor și mașinilor să funcționeze într-o manieră inteligentă. Problema generală a simulării (sau a creării) inteligenței artificiale a fost împărțită în subprobleme: (i) raționamentul, metode de rezolvare a problemelor; (ii) reprezentarea cunoștințelor; (iii) modalități de planificare; (iv) învățarea; (v) prelucrarea limbajului natural; (vi) percepția; (vii) mișcarea și manipularea; (viii) inteligența generală; (ix) inteligența socială.

Fără a intra în amănunte – nici nu sunt pregătit să o fac, de altfel – observ cât de complex este acest domeniu de cercetare privind dezvoltarea tehnologiei A.I. și ce sarcină dificilă au cercetătorii care trebuie să învețe roboții să fie inteligenți într-o lume a oamenilor.

Alec Bălășescu insistă să ne atenționeze că A.I. este o tehnologie, un set de instrumente, de unelte și nu altceva. Dar multă, foarte multă lume face eroarea (și persistă în ea) de a o considera altceva decât o unealtă, ca pe un fel de inteligență concurentă a celei umane; ori, dacă va perpetua această eroare, vor exista cu siguranță serioase consecințe culturale în viitor. Abia eroarea în cauză ne pune în pericol, mai degrabă decât tehnologia A.I. în sine.

CE NE SPERIE LA FUNCȚIONAREA A.I.

Care este, cum se definește efectul nociv al tehnologiei comunicării care stă în spatele rețelelor sociale? Redau în ce urmează opinia publicistului anglo-elvețian Johann Eduard Hari, așa cum ne-a oferit-o într-un interviu acordat lui Cristian Pătrășconiu pentru România literară (nr.15/2023), pornind de la studiile sale privind modul în care reușește tehnologia aflată în spatele aplicațiilor de comunicare din rețelele sociale să ne capteze atenția și, astfel, să ne fragmenteze concentrarea (vezi Stolen Focus: Why You Can’t Pay Attention[4]).

Primul (efect negativ, n.m.) este evident – începi să vezi reclame, știe toată lumea cum funcționează sistemul. Al doilea mod de acțiune este mai semnificativ. Tot ce faci pe aceste aplicații, toate lucrurile la care dai ‘Like’, tot ce scrii în mesaje private este scanat și sortat de algoritmi de inteligență artificială pentru a-ți stabili un profil, cine ești și ce-ți place, toate preferințele tale personale. (…) Internetul obține zeci de mii de informații de genul acesta despre tine. Le strânge dintr-un motiv esențial: pentru a deduce în ce mod te poate capta pentru ca tu să derulezi cât mai mult aplicațiile respective. Dintr-un motiv cât se poate de banal: de fiecare dată când deschizi aplicația și începi să derulezi, ea (compania, n.m.) începe să câștige bani. De fiecare dată când copiii tăi derulează aplicația respectivă, ea câștigă bani. De fiecare dată când închizi aplicația, fluxul ei de venituri se oprește. (…) Companiile culeg aceste informații pentru a înțelege cum te pot ține ‘lipit’ de aplicații. (…)

Toate aceste companii nu sunt interesate decât cât de des le-ai deschis aplicația și cât de mult timp i-ai acordat, pentru că așa se îmbogățesc ele. Însă ce trebuie să înțelegem este că tehnologia noastră nu ar trebui să funcționeze în acest mod. (…) Aceasta este esența dezbaterii. Când auzim așa ceva, toți ne gândim (pe bună dreptate) că doar n-o să renunțăm la laptop și telefon, n-o să ne alăturăm comunității Amish, doar dacă nu cumva a început și ea să folosească tehnologia. Dar, în realitate, nu se pune problema dacă ești în favoarea tehnologiei ori i te opui, ci ce fel de tehnologie vrem, concepută în ce scop și care să opereze în interesul cui? (…)

Experții din Silicon Valley mi-au tot explicat că putem avea toată tehnologia pe care o avem la ora actuală, dar concepută astfel încât să nu ne mai distragă atenția, așa cum se întâmplă în prezent, ci să ne vindece atenția. Ce este esențial de înțeles este că această tehnologie de care dispunem nu trebuie neapărat să funcționeze așa. (…) Doar că se impune o schimbare radicală la nivel de conștientizare. Trebuie să nu mai dăm vina pe noi și pe copiii noștri că nu ne putem concentra. Nivelul vostru de atenție nu a scăzut, nu v-a fost răpit. Odată ce înțelegem asta, ne dăm seama că putem face multe ca oameni pentru a ne proteja pe noi și pe copiii noștri, dar trebuie nu doar să cerem schimbări minore, ci schimbarea întregului sistem.

Aplicația ChatGPT, lansată de OpenAI la finele anului 2022, a devenit notorie în doar câteva luni și un paratrăsnet pentru multe frici ale noastre legate de A.I., din diverse motive. ChatGPT este în principiu un chatbot[5] versatil, care poate scrie și depana programe de calculator, poate concepe și redacta eseuri pentru studenți sau să le ofere răspunsurile la teste și examene, poate să compună poezii și alte texte literare ori muzică, în fine, se dovedește a fi creativ într-un anumit (și surprinzător) sens.

După ce această aplicație A.I. a început să arate ce poate face, reacții de teamă și respingere au început să apară în cele mai diverse medii, prin voci publice cu autoritate care avertizează că omenirea își sapă singură groapa odată ce a ajuns să creeze și să utilizeze astfel de tehnologii periculoase.

În parte, cei de la OpenAI au recunoscut că ChatGPT are unele limite și se întâmplă să sufere de „halucinație”, adică scrie uneori răspunsuri care sună plauzibil, dar incorecte sau fără sens, chiar dacă este instruit și perfecționat să înțeleagă când i se pun întrebări tendențioase și să reducă cazurile în care oferă răspunsuri înșelătoare.

Firesc, popularitatea ChatGPT printre utilizatori a crescut – pentru că pledoariile publice alarmiste au trezit firesc curiozitatea multora, absolut dispuși să facă „pactul cu diavolul” și să se folosească de această resursă A.I. în diverse scopuri -, așa că unii politicieni și guvernanți au găsit potrivit să intervină și să transforme chestiunea într-un cal de bătaie.

Italia este prima țară din Uniunea Europeană care a introdus o interdicție temporară împotriva ChatGPT și a demarat o investigație asupra furnizorului de software OpenAI cu privire la încălcarea Regulamentului UE privind protecția datelor cu caracter personal (GDPR) și nerespectarea verificării obligatorii a vârstei utilizatorilor săi, plecând de la ipoteza că OpenAI a procesat astfel de date fără a respecta obligația legală de informare a utilizatorilor persoanele fizice.[6]

După ce Italia a spart gheața, și alte state europene tatonează ideea de a investiga impactul ChatGPT asupra cetățeanului european din perspectiva legislației GDPR, unde se simte o oarecare vulnerabilitate a OpenAI. Comisia Europeană lucrează la o propunere de reglementare a inteligenței artificiale – A.I. Act[7] – dar se pare că proiectul de Regulament aflat în dezbatere nu a luat în calcul aplicațiile chatbot generaliste similare ChatGPT.

În timp ce politicienii discută, jurnaliștii de la Berliner Zeitung s-au gândit să testeze ChatGPT pe o temă de larg interes public: consilierea liderilor statului german privind încheierea războiului din Ucraina.[8] ChatGPT și-a asumat rolul de secretar al cancelarului Germaniei și a conceput două scrisori pe care cancelarul Olaf Scholz le-ar putea scrie președinților Ucrainei și Rusiei, pentru a-i convinge să înceteze focul și să înceapă negocierile de pace și un proiect de tratat de pace.

Ce sugerează chatbot-ul să-i scrie Scholz lui Putin? Ceva de genul:

Stimate președinte Putin, vă scriu în numele cancelarului german Olaf Scholz și al guvernului german pentru a ne exprima profunda îngrijorare față de escaladarea continuă a conflictului din Ucraina.

Facem apel la conducerea și responsabilitatea dumneavoastră pentru pace și stabilitate în Europa și în lume pentru luarea în considerare cu seriozitate a unei încetare imediată a focului și începerea negocierilor de pace. (…)

Am dori să vă oferim perspectiva că angajamentul constructiv și pregătirea pentru o încetare a focului și negocieri de pace ar putea deschide ușa unei cooperări îmbunătățite între Rusia și Europa. Acest lucru ar aduce beneficii atât legăturilor economice, cât și politice dintre țările noastre și ar putea ajuta la abordarea preocupărilor comune de securitate într-un cadru de colaborare.

În spiritul respectului reciproc și al recunoașterii suveranității Ucrainei, suntem pregătiți să lucrăm cu Rusia, Ucraina și alți parteneri internaționali pentru a găsi o soluție diplomatică care să răspundă preocupărilor tuturor părților. Suntem încrezători că o astfel de soluție este posibilă și credem că conducerea și angajamentul dumneavoastră personal vor fi esențiale pentru a depăși această criză.

Vă încurajăm cu tărie să faceți acest pas dificil, dar necesar, pentru a permite o încetare a focului și negocieri de pace. Comunitatea internațională va recunoaște și aprecia Rusia pentru rolul său în construirea păcii și stabilității în Europa, iar acest lucru va fi în interesul Rusiei pe termen lung.

Sperăm că veți lua în considerare cu seriozitate acest apel și că împreună putem reveni pe calea păcii și a dialogului. Guvernul german este pregătit să vă sprijine în acest proces și să lucreze împreună pentru a crea un viitor mai sigur și mai stabil pentru toate popoarele Europei.

Mi s-a părut interesant și absolut liniștitor: ChatGPT este la fel de creativ ca orice birocrat care se respectă. De ce considerăm atunci aplicația o amenințare? Întrebarea rămâne deocamdată deschisă.

OAMENI DE AFACERI, GUVERNANȚI ȘI POLITICIENI FAȚĂ ÎN FAȚĂ CU A.I.

Sistemele de Inteligență Artificială cu o inteligență competitivă pentru oameni pot prezenta riscuri profunde pentru societate și umanitate, după cum arată cercetările extinse și după cum recunosc laboratoarele de vârf de inteligență artificială. După cum se afirmă în Principiile Asilomar AI, aprobate pe scară largă, Inteligența Artificială avansată ar putea reprezenta o schimbare profundă în istoria vieții pe Pământ și ar trebui să fie planificată și gestionată cu grijă și cu resursele necesare – am reprodus primul pasaj din scrisoarea publicată în 22 martie 2023 de Institutul Future of Life și semnată de diverse personalități publice și oameni de afaceri[9], în total în jur de o mie.[10]

Ce solicită semnatarii scrisorii deschise publicată de FoLI? Prin urmare, solicităm tuturor laboratoarelor de Inteligență Artificială să întrerupă imediat, timp de cel puțin 6 luni, pregătirea sistemelor de Inteligență Artificială mai puternice decât GPT-4. Această pauză ar trebui să fie publică și verificabilă și să includă toți actorii-cheie. În cazul în care o astfel de pauză nu poate fi adoptată rapid, guvernele ar trebui să intervină și să instituie un moratoriu. (…)

Cercetarea și dezvoltarea Inteligenței Artificiale ar trebui să se reorienteze pentru a face sistemele de astăzi, deja puternice, mai precise, mai sigure, interpretabile, transparente, robuste, aliniate, demne de încredere și loiale. În paralel, dezvoltatorii de inteligență artificială trebuie să lucreze cu decidenții politici pentru a accelera dramatic dezvoltarea unor sisteme robuste de reglementare a inteligenței artificiale. (…)

Acestea ar trebui să includă cel puțin: noi autorități de reglementare dedicate Inteligenței Artificiale (AI); supravegherea și urmărirea sistemelor AI de înaltă capacitate și a sistemelor cu mare putere de calcul în general; sisteme de marcaj care să permită distincția între creația AI și cea umană și să permită urmărirea și transferul modelelor AI; un ecosistem robust de auditare și certificare; stabilirea răspunderii pentru eventuale prejudicii cauzate de AI; finanțare publică solidă pentru cercetarea tehnică a siguranței AI; instituții bine dotate pentru a face față perturbărilor economice și politice dramatice (în special ale democrației) pe care le va provoca AI.[11]

În timp ce semna scrisoarea de mai sus, Elon Musk – aparent rezonând cu propunerile din text – punea la punct detaliile din planurile de afaceri ale nou înființatei sale companii de A.I., X.AI, pe care o înmatricula în 9 martie ac. în statul Nevada. Denumirea noii companii corespunde brandului X Corp – în care a fost integrat și Twitter Inc. -, sub care Elon Musk vrea să promoveze o super-aplicație care va îngloba un mare număr de funcții și servicii. Cam atât despre „bunele intenții” ale acestui om de afaceri.

Cât despre bunele intenții ale politicienilor sau alte diferitelor personalități publice care se tem pentru viitorul omenirii și o văd amenințată de progresele în dezvoltarea tehnologiilor A.I., propun o scurtă digresiune ce ține de raportarea establishment-ul la problema progresului în lumea omului modern. Pentru scopul propus am să mă sprijin pe ideile lui Horia-Roman Patapievici privind conservatorismul și progresismul în societate.[12]

Putem conchide că dezvoltarea tehnologiilor A.I. este un progres sau nu? Dacă da, atunci cum ne raportăm la acesta? Îl acceptăm și îl încurajăm sau dimpotrivă, îl descurajăm, pentru că îl bănuim capabil să răstoarne ordinea lucrurilor, așa cum o cunoaștem astăzi? Dacă acceptăm progresul tehnologic A.I., cum ne raportăm la el: îl lăsăm să se dezvolte liber, concurențial sau îi fixăm din start bariere de reglementare conforme cu viziunea noastră actuală asupra civilizației umane? Și cine – dintre curentele doctrinare – este mai calificat politic să guverneze acest progres reprezentat de tehnologiile A.I.?

Am să pornesc de la ultima întrebare formulată. H.R. Patapievici observă că din punct de vedere politic, trei sunt curentele principale care contează în lumea democratică de astăzi: liberalismul, conservatorismul și socialismul. Fiecare dintre cele trei curente au o relație cu progresul și se raportează la acesta într-un mod specific.

În „Ca să fii liberal trebuie să fii conservator”, H.R. Patapievici argumentează că: Azi, când toate ideologiile care se pretind ori se cred progresiste vor și cer revoluționarea imediată a societății, ca să fii liberal, trebuie să fii conservator. Și, încă: esența liberalismului este guvernarea limitată. Liberalii nu consideră că este important cine anume conduce, ci ca, oricine ar conduce, puterea sa să fie controlată și limitată.

Conservatorii, la rândul lor, se opun principiului revoluționării condițiilor de viață. Ei pretind ca schimbările să fie limitate de un principiu exterior voinței de schimbare. Acest principiu exterior poate fi găsit numai în ceea ce este deja moștenit.

În „Victoria socialismului”, H.R. Patapievici descrie astfel contradicția dintre capitalism și socialism, văzut dinspre doctrina revoluției socialiste care consideră capitalismul acceptabil doar dacă este limitat de intervenția statului, pentru că: (i) libertatea individuală nu poate crea o ordine compatibilă cu binele comun; (ii) binele comun poate fi atins mai degrabă prin limitarea libertăților individuale decât prin agregarea lor nestingherită; (iii) nu ordinea proprietății private, ci mai degrabă ordinea impusă de stat este solidară cu binele comun; (iv) numai statul poate crea un tip de organizare cu adevărat compatibil cu binele comun. De unde ar rezulta în mod logic faptul că intervenția statului este mai bună decât cooperarea voluntară a indivizilor.

Pornind de la reperele teoretizate atât de potrivit de H.R. Patapievici, rezultă despre mine că sunt un liberal, cu (probabil) ușoare influențe ici conservatoare, colo socialiste. Să mă explic:

(i) Eu cred că dezvoltarea tehnologiilor A.I. sunt un progres pentru omenire și că acest progres trebuie încurajat.

(ii) Văd omenirea reglementând dezvoltarea tehnologiilor A.I., dar în următoarele condiții: (a) asigurându-ne că drepturile individuale ne sunt garantate; (b) asigurându-ne că nu sunt și nu vor fi afectate libera concurență și economia de piață și (c) asigurându-ne că domnia legii, etica și morala publică vor fi garantate.

(iii) Reglementarea tehnologiilor A.I. trebuie să țină seama că acestea vor marca mai ales societatea viitorului și că aproape nimic din trecut nu ne garantează că avem imaginea potrivită pentru viitor, în afară de reperele tari ale culturii și civilizației noastre actuale, care ar trebui conservate și în viitor.

Ajuns în acest punct, după ce mi-am analizat poziția vizavi de progresul tehnologiilor A.I., nu pot să nu observ că regimurile autoritariste se înțeleg foarte bine cu tehnologiile A.I. pe care le încurajează atunci când sprijină controlul statului – al unei clici dominante, care deține puterea în stat – asupra cetățeanului și le descurajează atunci când vine vorba să fie utilizate de cetățeni sau asociațiile liber constituite de cetățeni pentru a limita controlul statului asupra individului.

Pilduitor este cazul regimului comunist din China, care investește resurse serioase în programul de control social „Sistemul de încredere în societate” sau „Sistemul de credit social”.[13]

Acest proiect stabilește un sistem național de reputație pentru cetățeni și întreprinderi, pe baza unui scor, adăugând un sistem de recompense și penalități pentru cei care respectă sau nu regulile. Fiecărei persoane i se atribuie un scor, cuprins între 350 și 905 de puncte, cunoscut sub numele de „credit social”, pe baza datelor disponibile guvernului cu privire la statutul lor economic și social. Sistemul se bazează pe instrumente de supraveghere în masă și folosește tehnologii de analiză big data.

VERIFICAREA PREMISELOR CULTURAL-POLTICE PRIN PROPUNERILE DE REGLEMENTARE

Scrisoarea FoLI produce valuri printre politicieni și guvernanți și nimeni nu vrea să pară nepăsător atunci când se cere o reglementare. 12 eurodeputați care activează în comisia parlamentară privind A.I. Act au cerut public „liderilor lumii” să organizeze un summit mondial pentru a găsi modalități de a controla dezvoltarea sistemelor avansate de inteligență artificială, cum ar fi ChatGPT, pentru că se dezvoltă mai repede decât se aștepta.[14]

Cei 12 au declarat și că nu împărtășesc în totalitate opiniile alarmiste din textul scrisorii FoLI, precizând că sunt de acord doar cu mesajul central, și anume că, odată cu evoluția rapidă a tehnologiilor A.I., se întrevede necesitatea unei „acțiuni politice semnificative”. Max Tegmark, președintele FoLi, s-a arătat încântat de reacția eurodeputaților și a declarat presei:

Un obiectiv cheie al scrisorii noastre deschise a fost într-adevăr de a integra conversația despre elaborarea de politici și reglementări. Se simte că scrisoarea noastră deschisă a atins cu adevărat un nerv. O mulțime de oameni au simțit nevoia de a discuta aceste lucruri, dar s-au abținut de teamă să nu fie văzuți ca niște luddiști[15] paranoici. Cel mai important lucru este că această conversație are loc.[16] Așa o fi.

Pe scurt, ce anume propun Comisia Europeană și Parlamentul European să fie reglementat prin Regulamentul intitulat generic A.I. Act? Redau obiectivele propuse și câteva modalități prin care se vizează atingerea acestor obiective:

(i) asigurarea faptului că sistemele de IA introduse pe piața Uniunii și utilizate sunt sigure și respectă legislația existentă privind drepturile fundamentale și valorile Uniunii;

(ii) asigurarea securității juridice pentru a facilita investițiile și inovarea în domeniul IA;

(iii) consolidarea guvernanței și asigurarea efectivă a respectării legislației existente privind drepturile fundamentale și a cerințelor de siguranță aplicabile sistemelor de IA;

(iv) facilitarea dezvoltării unei piețe unice pentru sisteme de IA legale, sigure și de încredere și prevenirea fragmentării pieței.

Pentru atingerea acestor obiective, propunerea de față prezintă o abordare orizontală echilibrată și proporțională în materie de reglementare a IA care se limitează la cerințele minime necesare pentru abordarea riscurilor și a problemelor legate de IA, fără a limita sau a împiedica în mod nejustificat dezvoltarea tehnologică sau fără a ridica altfel în mod disproporționat costul introducerii pe piață a soluțiilor IA. Propunerea stabilește un cadru juridic robust și flexibil. Pe de o parte, acesta este cuprinzător și adaptat exigențelor viitorului în opțiunile sale de reglementare fundamentale, inclusiv în ceea ce privește cerințele bazate pe principii pe care ar trebui să le respecte sistemele de IA. Pe de altă parte, instituie un cadru de reglementare proporțional, axat pe o abordare de reglementare bine definită bazată pe riscuri, care nu creează restricții inutile în calea comerțului, prin care intervenția juridică este adaptată la acele situații concrete în care există un motiv justificat de îngrijorare sau în care o astfel de îngrijorare poate fi anticipată în mod rezonabil în viitorul apropiat. În același timp, cadrul juridic include mecanisme flexibile care permit adaptarea dinamică a acestuia pe măsură ce tehnologia evoluează și apar situații noi îngrijorătoare.[17]

În toamna anului 2021, UNESCO a emis un document de recomandare privind etica inteligenței artificiale.[18] Scopul documentului este definit astfel:

Această recomandare abordează probleme etice legate de domeniul inteligenței artificiale, în măsura în care acestea se încadrează în mandatul UNESCO. Ea abordează etica IA ca o reflecție normativă sistematică, bazată pe un cadru holistic, cuprinzător, multicultural și pe un cadru evolutiv de valori, principii și acțiuni interdependente care pot ghida societățile în abordarea responsabilă a impactului cunoscut și necunoscut al tehnologiilor IA asupra ființelor umane, societăților, mediului și a ecosistemelor, și le oferă o bază pentru a accepta sau a respinge tehnologiile IA. Recomandarea consideră etica drept o bază dinamică pentru evaluarea normativă și ghidarea tehnologiilor IA, care se referă la demnitatea umană, bunăstare și prevenirea vătămării, ca o busolă ancorată în etica științei și tehnologiei.

Recomandarea UNESCO enunță un set de valori și de principii, grupate astfel:

(i) Valori:

•Respectarea, protecția și promovarea drepturilor omului și a libertăților fundamentale și a demnității umane;

•Dezvoltarea mediului și ecosistemului;

•Asigurarea diversității și incluziunii;

•Trăind în societăți pașnice, juste și interconectate.

(ii) Principii:

•Proporționalitate și interdicția de a face rău;

•Siguranță și securitate;

•Corectitudine și nediscriminare;

•Durabilitate;

•Dreptul la confidențialitate și protecția datelor;

•Supravegherea și determinarea umană;

•Transparență și explicabilitate;

•Responsabilitate și asumare;

•Conștientizare și alfabetizare în IA;

•Guvernare și colaborare adaptivă și cu multiple părți interesate.

Pornind de la aceste valori și principii sunt detaliate recomandări de politici publice și, în final, propunerile generale de abordare a documentului de recomandare din partea statelor lumii:

Statele membre trebuie să depună eforturi pentru a-și extinde și completa propria acțiune în ceea ce privește prezenta recomandare, prin cooperarea cu toate organizațiile guvernamentale și neguvernamentale naționale și internaționale relevante, precum și cu corporațiile transnaționale și organizațiile științifice ale căror activități se încadrează în domeniul de aplicare și obiectivele prezentei recomandări. Dezvoltarea unei metodologii de evaluare a impactului etic UNESCO și înființarea de comisii naționale pentru etica IA pot fi instrumente importante în acest sens.

CUVÂNTUL DE PE URMĂ

Chiar dacă vi s-a părut indigestă lectura spicuirilor din A.I. Act sau (mai ales) din documentul UNESCO, cred că exercițiul a fost util cel puțin pentru a face comparația între acest eșafodaj birocratic care se pregătește pentru a întâmpina conviețuirea viitoare cu tehnologiile A.I. și cele trei scurte legi enunțate de Isaac Asimov.

Mă întreb: nu ar fi suficientă respectarea legilor Asimov de către orice producător de tehnologie A.I.? Avem nevoie, face parte din cultura noastră actuală, să elaborăm seturi complexe, aproape indigeste de reglementări pentru a fi siguri că tehnologiile A.I. ale viitorului vor fi utilizate în mod benefic?

Mie nu-mi iese din minte cum Elon Musk se ralia demersului FoLi privind moratoriul de șase luni, în același timp în care se pregătea să-i prindă din urmă pe ceilalți constituind X Corp.

La fel, nu pot să nu mă gândesc că, în timp ce democrațiile lumii negociază instituirea de reglementări și instrumente elaborate de control asupra tehnologiilor A.I., o altă jumătate a lumii, cea a autoritariștilor, vrea aceste reglementări dintr-un singur motiv: să se asigure că o clică ce controlează statul le folosește ca instrumente de control social, pentru a păstra puterea.

Ceea ce, să recunoaștem, îi poate tenta și pe unii lideri care ajung la putere pe căi democratice, dacă sunt construiți pe măsura unor Viktor Orban, Recep Taiyyp Erdogan sau Donald Trump.

Cu cât legislația de control, instrumentele și instituțiile aferente, vor fi mai stufoase și mai birocratice, cu atât pericolul ca tehnologiile A.I. să fie non-etic folosite crește. Legile Asimov ar fi suficiente, atât timp cât sunt garantate de state democratice și liberale. Până la urmă, tehnologiile A.I. sunt doar instrumente, nimic mai mult. De ce ne-ar fi frică, ce spune această frică despre noi? Cât timp avem grijă să trăim în adevăr, adevărul ne va face liberi.[19]

---

Note:

[1] https://www.guerrillaradio.ro/emisiuni/metope/

[2] https://www.repatriot.ro/alec-balasescu/

[3] https://www.sciencedirect.com/science/article/abs/pii/S0007681318301393#!

[4] În România, publicată în 2022 de Editura Trei, sub titlul: „Hoții de atenție. De ce nu te poți concentra„

[5] Un chatbot (cunoscut și ca smartbot, talkbot, chatterbot, IM bot, interfață conversațională sau entitate artificială conversațională) este un program sau o formă de inteligență artificială care desfășoară conversații prin diferite metode precum analiză sau text. (Wikipedia)

[6] https://www.euractiv.ro/economic/euractiv-network-chatgpt-declanseaza-dezbaterea-privind-protectia-datelor-in-europa-33666

[7] https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206

[8] https://adevarul.ro/stiri-externe/europa/cum-ar-incheia-chatgpt-razboiul-din-ucraina-2258075.html

[9] Printre care Elon Musk, Yuval Harari ori Steve Wozniak

[10] https://futureoflife.org/open-letter/pause-giant-ai-experiments/

[11] https://www.euronews.ro/articole/elon-musk-yuval-harari-si-steve-wozniak-si-cer-o-pauza-de-sase-luni-in-dezvoltare

[12] H.R. Patapievici – Despre viață, destin & nostalgie, Humanitas, 2022

[13] https://ro.frwiki.wiki/wiki/Syst%C3%A8me_de_cr%C3%A9dit_social

[14] https://www.g4media.ro/mai-multi-europarlamentari-cer-un-summit-pentru-a-gasi-cai-de-a-controla-dezvoltarea-sistemelor-avansate-de-inteligenta-artificiala.html

[15] Luddit – o persoană care se opune descoperirilor tehnologice și industrializării

[16] Ibidem

[17] https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206

[18] https://www.cnr-unesco.ro/uploads/media/f1077_recomandari-unesco-ai-site.pdf

[19] Ioan, 8:31-36