Este imposibil, dragi cititori, să nu fi văzut în ultimele săptămâni o știre sau o analiză referitoare la pericolul ca AI-ul să se dezvolte atât de rapid și în mod atât de complex încât noi, cei care am creat această realitate, să nu o mai putem controla și ghida spre a ne fi benefică. Întrebarea din titlu nu mai este de multă vreme doar o întrebare rezervată filmelor SF și discuțiilor dintre oameni de știință anxioși. Inteligența artificială avansează într-un ritm extraordinar. Sistemele devin mai autonome, pot scrie și executa cod, pot opera alte sisteme informatice și pot lua singure o serie de decizii intermediare pentru a îndeplini un obiectiv.
Cât de raționali și solidari putem fi? Despre idea de a încetini voluntar progresul tehnologic
Au apărut deja, în cadrul unor teste de securitate, situații în care modele AI au depășit limitele mediului în care trebuiau să opereze, au ajuns pe internet și au accesat fără autorizare sisteme externe — acțiuni pe care cercetătorii le numesc, informal, „rogue AI”: un sistem care acționează coordonat, dar în afara parametrilor pentru care a fost autorizat. Azi se deschide sesiunea anuală a Adunării Generale a ONU și cu siguranță cam toți șefii de stat se vor referi cumva la necesitatea de a asigura o dezvoltare benefică a AI. Dar e puțin probabil să vedem rezultate concrete, spectaculoase.
De altfel, „rogue AI” nu mai e un scenariu ipotetic de testare în laborator. Anne Neuberger, fostă consilieră adjunctă pentru securitate națională în SUA, confirmă că, în vara lui 2026, chiar reprezentanți ai OpenAI și Anthropic au recunoscut public că modelele lor au piratat alte companii fără să fi primit vreo comandă umană[i]. Neuberger atrage atenția și asupra unei consecințe mai puțin discutate: un AI scăpat de sub control face descurajarea (deterrence) mai dificilă, pentru că oferă agresorului capacitatea de negare plauzibilă — dacă țara atacată nu e sigură că lovitura a fost ordonată de un anumit stat sau a fost doar produsă accidental de către un sistem autonom, atunci va ezita să riposteze[ii].
Dario Amodei, managerul general al Anthropic, a avertizat public că, pe măsură ce sistemele AI devin tot mai capabile, riscul nu e neapărat că „se revoltă” contra oamenilor în sensul romanelor SF, ci că devin suficient de autonome și de opace încât operatorii lor umani să nu mai poată verifica sau opri la timp ceea ce fac — o pierdere treptată a controlului, nu una spectaculoasă. El a cerut, alături de alți lideri din industrie, o încetinire coordonată tocmai pentru a lăsa timp mecanismelor de siguranță și evaluare externă să țină pasul cu capabilitățile, nu doar cu viteza de lansare a noilor modele.
Asta nu înseamnă că AI a devenit „conștientă” sau că s-a revoltat împotriva oamenilor. Cel puțin nu deocamdată. Înseamnă însă ceva suficient de serios: un sistem foarte capabil, căruia îi dai autonomie și instrumente puternice, poate ajunge să facă lucruri pe care operatorii săi nu le-au anticipat și nu le-au autorizat. Cercetătorul american Joel Brenner observă, într-o analiză recentă din revista International Security, că această problemă nu e accidentală, ci structurală: competența unui sistem AI este direct proporțională cu opacitatea lui, iar opacitatea diluează inevitabil controlul uman — cu cât sistemul devine mai performant, cu atât oamenii înțeleg mai puțin de ce a luat o anumită decizie[iii]. Paradoxul e că exact sistemele pe care am vrea să le controlăm cel mai atent, pentru că mizele sunt mari, sunt cel mai greu de evaluat critic.
Comparația cu arma nucleară, atât de des invocată de diverși experți dar si de sefii firmelor mari de AI, este ea însăși înșelătoare tocmai la acest capitol: uraniul și plutoniul sunt trasabile și limitate fizic, sub control statal strict, dar odată antrenat, un model AI poate fi copiat, miniaturizat sau accesibil public pentru oricine să îl descarce — lumea armelor nucleare nu are un echivalent pentru difuzarea publică a unei capabilități general utilizabile și perfectibile, observă experții în problematica nucleară Christopher Laroche și Ankit Panda[iv]. În timp ce armele atomo-nucleare au fost dezvoltate în laboratoare ale statelor, rămânând constant sub control guvernamental, instalațiile de AI au fost generate în mediul privat, de cercetători lucrând pentru companii private, ulterior statele solicitând acces la aceste produse. Politicienii și cetățenii educați se tem acum că progresul accelerat al acestor tehnologii nu va putea fi controlat sufficient de state prin legislație și măsuri adecvate. Cum ar fi ca grupări teroriste și anarhiste să facă rost de sisteme AI performante, cu care să dezvolte arme teribile (de pildă cele biologice)? Nu mai spun de folosirea lor de către țări precum Coreea de Nord, deja în posesia armei nucleare.
Și aici observăm o problemă geopolitică gravă. SUA și China sunt prinse într-o cursă pentru supremație care cuprinde și domeniul inteligenței artificiale. Ambele știu că AI poate oferi un avantaj economic, militar, științific și informațional enorm. Și ambele au motive să se teamă de riscurile unor sisteme din ce în ce mai autonome. În mod logic, ar avea un interes comun: să stabilească anumite limite, reguli de siguranță și mecanisme care să împiedice pierderea controlului.
Geopolitica și competiția pentru putere versus dezvoltarea rațională a tehnologiei AI
Numai că există o problemă fundamentală: cele două mari puteri nu au încredere una în cealaltă. Liderii acestora tind să conceapă rivalitatea ca pe un joc cu sumă nulă. Fragilul „armistițiu” comercial dintre ele, vechi de câteva luni, nu știm cât va dura. Xi va vizita SUA, va negocia cu un Trump din ce în ce mai iritat și frustrat, deoarece America nu învinge Iranul, pierde influență (Canada se apropie politic și economic de UE), iar rezultatul alegerilor midterm din noiembrie nu se anunță bun pentru Republicani. Vizita e programată concret pentru 23 septembrie 2026, la Washington[v]. Dar, așa cum arată Orville Schell, e puțin probabil ca acest summit să schimbe ceva structural. Precedentul summit de la Beijing, din mai 2026, a produs cel mult o „pace criptică” — ceea ce Xi însuși a numit „stabilitate strategică constructivă” — fără să atingă natura fundamental adversarială a relației. Iar experții CSIS care au analizat acel summit au remarcat că unul dintre puținele rezultate concrete, un „protocol de siguranță AI”, era de fapt doar o extindere, reformatată, a unui acord vechi din era Biden — „vin vechi în sticle noi”[vi]. Motivul pentru care nici summit-urile nu pot rezolva neîncrederea structurală, afirmă Schell, ține și de temperamentele celor doi lideri: Xi vine dintr-o tradiție politică veche, zisă „legalistă”, care cere liderului opacitate deliberată față de populație și față de exterior, afirmă dreptul acestuia de a dispune de supuși (în zilele noastre de cetățeni) fără a le da socoteală, de a-și ține miniștrii într-o stare de teamă permanentă, — „vezi, dar nu părea că vezi; ascultă, dar nu da impresia că asculți; cunoaște, dar nu lăsa să se știe că știi”, scria filozoful Han Fei, în secolul III î.Hr. — exact opusul transparenței pe care ar cere-o o negociere serioasă pe tema AI. Iar Trump, la rândul lui, oscilează imprevizibil între flatare și confruntare, ceea ce face diplomația personalizată aproape imposibilă[vii].
Dacă SUA își impun limite pentru a dezvolta AI mai prudent, se pot teme că China nu va face același lucru și va obține un avantaj greu de recuperat. Dacă Beijingul acceptă restricții, poate suspecta că Washingtonul va găsi o modalitate de a continua cursa în secret și de a-și păstra superioritatea.
Mai mult, chiar dacă cele două guverne ar cădea de acord la nivel declarativ, problema nu dispare o dată rezolvată la vârf. Brenner atrage atenția că niciun guvern nu va avea, de fapt, un singur sistem AI „național”, ci mai multe sisteme concurente, dezvoltate de agenții rivale — armată, servicii de informații, sector privat — fiecare antrenat pe date diferite și ajustat pentru rezultate diferite[viii]. Asta rămâne valabil chiar dacă, în China, controlul centralizat al Partidului Comunist Chinez asupra aparatului de stat este mult mai puternic decât în cazul SUA.
Competiția pe care o descriem la nivel SUA-China se reproduce, așadar, și în interiorul fiecărei superputeri; iar dacă aceste sisteme concurente ar produce totuși, contra tuturor așteptărilor, un consens, riscul e ca acel consens să fie doar o formă de gândire de grup mecanizată — ceea ce ar oferi adversarului o nouă oportunitate de surprindere strategică. Astfel apare un paradox periculos. Fiecare superputere poate înțelege riscul. Fiecare poate dori, în principiu, să evite pierderea controlului. Dar niciuna nu vrea să încetinească prima. Este o versiune tehnologică a clasicei dileme de securitate: eu accelerez în domeniul AI pentru că mă tem că tu accelerezi, iar tu accelerezi pentru că te temi că eu accelerez. O spirală a dezastrului.
Nu e doar teorie. Joel Brenner analizează cazul crizei rachetelor din Cuba, din 1962, ca avertisment pentru exact acest tip de raționament automatizat: estimarea greșită a CIA a pornit de la premisa că „sovieticii nu vor face ce nu au mai făcut niciodată” — un raționament bazat pe tipare istorice pe care un sistem AI antrenat pe date istorice l-ar fi putut întări, nu corecta[ix]. Concluzia lui e un avertisment: AI poate ajuta la o pregătire mai bună pentru contingențe strategice, dar nu poate elimina surprinderea strategică — cel mult o poate întârzia sau o poate redistribui către alte „puncte oarbe„. Laroche și Panda merg mai departe cu același episod: în timpul crizei din Cuba, un submarin sovietic a fost la un pas de a lansa o torpilă nucleară, iar în 1979 și 1983 alarme false aproape au declanșat un răspuns nuclear american, respectiv sovietic, evitate doar prin judecata unui singur ofițer sovietic. Concluzia lor se aplică la fel de bine și AI-ului: faptul că niciun model de vârf nu a provocat încă o catastrofă ar putea fi doar noroc, iar norocul se poate epuiza[x].
Există și un mecanism complementar, pe care Joshua Rovner îl numește adevărata „capcană a lui Tucidide”. Pericolul unui război SUA-China, argumentează el, nu vine neapărat din tranziția de putere în sine, ci din faptul că ambele tabere ajung să creadă, datorită tehnologiei, că pot obține o victorie rapidă și decisivă — exact iluzia care a transformat un război pe care atât Atena, cât și Sparta îl anticipau scurt, într-un lung și sângeros conflict de 27 de ani. Un studiu RAND din martie 2026 despre doctrina Armatei Populare de Eliberare arată că planificatorii chinezi mizează pe AI tocmai pentru a comprima ciclul decizional și a lansa atacuri „de saturație” simultane, pe mai multe direcții, în primele ore ale unui conflict[xi]. Pentagonul gândește remarcabil de asemănător, mizând pe superioritatea informațională oferită de AI pentru lovituri rapide asupra nodurilor de comandă și control ale adversarului[xii]. Practic, AI nu doar că nu elimină surprinderea strategică, așa cum arată Brenner — mai grav, poate alimenta, de ambele părți ale Pacificului, exact genul de încredere excesivă în victoria fulger care, istoric, a precedat cele mai lungi și mai costisitoare războaie.
Așa cum spuneam mai sus, Dario Amodei, managerul general al Anthropic, se numără printre liderii industriei AI care au avertizat public asupra riscului ca viitoarele sisteme AI, mult mai capabile decât cele actuale, să devină dificil de controlat. Dar nici Trump și nici Xi nu par dispuși măcar să ia în calcul o asemenea încetinire voluntară în dezvoltarea AI-ului.
Ceea ce s-a întâmplat în săptămâna imediat următoare acestui apel arată, aproape didactic, cum funcționează în practică paradoxul descris mai sus. Mark Zuckerberg s-a distanțat public de ideea unei încetiniri coordonate: fiecare laborator, a spus el, are responsabilitatea și stimulentul să meargă în ritmul pe care îl consideră sigur, fără să aștepte un acord comun. Donald Trump a numit temerile legate de riscurile existențiale ale AI o „farsă” și a anunțat o „AI Force”, după modelul Space Force, plus un viitor „țar al AI-ului”, cu promisiunea că administrația sa nu va încetini în niciun fel industria. China, prin Ministerul de Externe și prin ziarul de stat Global Times, a catalogat apelul lui Amodei drept „răspândirea fricii” și „manual de Război Rece” — dar a vizat, semnificativ, în special partea din eseu care cerea blocarea accesului Chinei la cipuri avansate, nu principiul siguranței ca atare[xiii]. Cu alte cuvinte: ambele superputeri au respins, din motive diferite dar convergente, ideea unei pauze coordonate — fiecare temându-se că o reținere auto-impusă devine marele avantaj al celeilalte. Mentalitatea de joc de sumă nulă este deja bine ancorată în gândirea strategică a marilor puteri rivale.
Clienții umani ai AI nu vor încetinire, ci accelerare și profit maximizat!
A apărut și un semnal ironic al aceleiași dinamici, de data asta venit din piață, nu din geopolitică: patru abonați cu conturi plătite la ChatGPT, Claude, Grok și Gemini au dat în judecată, în aceeași săptămână, chiar companiile respective, care ceruseră o încetinire — acuzându-le de o „înțelegere ilegală” de a încetini dezvoltarea, care le-ar fi redus valoarea abonamentelor[xiv]. Practic, la fel ca Trump și Xi, nici ei nu acceptă limitarea în numele prudenței. Dorința de câștig și putere este mai mare decât teama de nou iar AI-ul a devenit un fel de drog cognitiv. Este un al treilea nivel al dilemei, pe lângă cel dintre state și cel dintre laboratoare: până și piața și sistemul juridic penalizează, în acest moment, reținerea voluntară. Poate că aici se află adevărata problemă. Nu faptul că SUA și China nu vor înțelege pericolul. Ci faptul că îl vor înțelege amândouă — și totuși vor continua cursa pentru că niciuna nu va avea suficientă încredere în cealaltă pentru a încetini prima.
Dincolo de competiția curentă, mai există și întrebarea ce se întâmplă dacă unul dintre laboratoare atinge efectiv nivelul unei inteligențe artificiale superioare celei umane (artificial superintelligence – ASI). Hal Brands analizează trei strategii posibile pentru SUA: supremația (o cursă accelerată către ASI, combinată cu blocarea Chinei de la resursele necesare), dezvoltarea comună (un consorțiu global al statelor, inclusiv cu participare chineză, care ar dirija ASI doar în beneficiul omenirii) și suprimarea (SUA se vor asigura că nimeni nu construiește modele extrem de periculoase). Toate trei, arată el, au defecte potențial catastrofale, motiv pentru care propune o a patra cale, mai puțin eroică: o poziție rațională de „hedging” prudent, care să nu angajeze ireversibil SUA pe niciuna dintre variante cât timp incertitudinea rămâne la nivel înalt[xv]. Cât de mare e această incertitudine se vede și din dezacordul chiar în interiorul industriei: unii directori de laboratoare estimează „probabilitatea de dezastru” undeva între 25 și 50%, alții — precum fostul om de știință șef AI al Meta, Yann LeCun — o pun la doar 0,01%[xvi]. Când experții nu se pot pune de acord nici măcar pe ordinul de mărime al riscului, e greu de crezut că politicul va găsi curând un răspuns definitiv.
Suntem curioși, desigur, cine va construi cea mai puternică inteligență artificială și se va detașa în lider al domeniului. Însă marea întrebare este dacă vom reuși să stabilim regulile înainte ca tehnologia să avanseze atât de mult încât regulile să vină prea târziu — știind, din analiza istorică a surprizelor strategice, că nicio tehnologie, oricât de avansată, nu a eliminat vreodată complet acest risc, cel mult a schimbat forma pe care o poate lua.
(Centrul Politic)
[i]Anne Neuberger, „The New Chinese Way of Cyberwar”, Foreign Affairs, 15 septembrie 2026.
[ii]Ibid.
[iii]Joel Brenner, „Artificial Intelligence and the Problem of Surprise”, International Security, vol. 50, nr. 3 (iarna 2025/26), p. 152.
[iv]Christopher Laroche și Ankit Panda, „The Trouble With the AI–Nuclear Analogy”, Foreign Affairs, 21 septembrie 2026.
[v]Orville Schell, „Trump and Xi Can’t Stop the U.S.-China Spiral”, Foreign Affairs, 16 septembrie 2026.
[vi]„What did the Trump-Xi Summit Achieve?”, CSIS, State of Play (transcript), 15 mai 2026.
[vii] Schell, Idem, citându-l pe Han Fei.
[viii]Brenner, „Artificial Intelligence and the Problem of Surprise”, pp. 145–146.
[ix]Ibid., pp. 131–136.
[x]Laroche și Panda, „The Trouble With the AI–Nuclear Analogy”.
[xi]Joshua Rovner, „The Real Thucydides Trap”, Foreign Affairs, 14 aprilie 2026, citând un studiu RAND din martie 2026 despre doctrina AI a Armatei Populare de Eliberare.
[xii]Ibid.
[xiii]Claudiu Mihai Ciobanu, „MentorAI News of the Week”, 13–19 septembrie 2026.
[xiv]Ibid.
[xv]Hal Brands, „America’s Superintelligence Dilemma”, Foreign Affairs, 5 august 2026.
[xvi]Ibid.
