Toate lucrurile sunt atât de nesigure,
și tocmai asta mă face să mă simt liniștită.
Tove Jansson, Moominland Midwinter, 1957
(trad. pers.)
Motto-ul de mai sus, extras dintr-o capodoperă a filosofiei existențiale deghizată sub masca unei cărți pentru copii, descrie paradoxul cu care trăim într-o perioadă pe care aș numi-o „faza focului de tabără”, când ni se spun cele mai înfricoșătoare povești. An după an, deceniu după deceniu, omenirea a trăit sub amenințările diferitelor apocalipse existențiale: Y2K bug (2000), fracturarea hidraulică (2014), apocalipsa insectelor (2021), pandemia COVID (2019-2023) și, last but not least, Armagedonul climatic (după 2000). Paradoxul lui Tove Jansson descrie, în esență, perpetua noastră sete de certitudine ca fiind un miraj, o Fata Morgana, doar pentru a descoperi, iar și iar, că apa vieții noastre își are rădăcinile în curajul de a accepta incertitudinea și de a explora condiția umană prin prisma confruntării cu necunoscutul și a acceptării radicale a realității.
Aceste considerații mi-au fost prilejuite de un anunț (semi)oficial al unei morți de mult anunțate: Tot mai mulți politicieni au încetat să mai vorbească despre schimbarea climei (responsabilă, spun unii, de următoarea apocalipsă) și, în consecință, a fost rebranduită recent de publicația The New York Times ca fiind doar „energy security”!
Dar se pare că omenirea trebuie menținută în continuare sub teroare. Astfel că, foarte recent, după decesul mult așteptat al extincției climatice, o nouă apocalipsă a fost scoasă la interval și pusă pe tapetul mediatic: AI va distruge omenirea în următorii 10 ani! Aproape brusc, în ultimele câteva luni, blogosfera și alte mass-media (inclusiv Contributors.ro) au explodat cu analize (mai mult sau mai puțin profesioniste) din categoria „focului de tabără” al AI.
În textul de față, nu mi-am propus să vă spun și eu vreo una dintre „poveștile” menționate mai sus. Voi încerca doar să prezint posibile răspunsuri la două întrebări principiale, interconectate, care au fost și sunt în centrul dezbaterilor despre prezentul și viitorul mașinilor AI:
1. Dacă o mașină AI nu simte nimic atunci când gândește, înseamnă că nu gândește?
2. Sau am introdus, fără să ne dăm seama, conștiința în definiția gândirii și apoi am folosit definiția astfel construită pentru a demonstra că numai ființele conștiente pot gândi?
Un prim răspuns l-am prezentat deja în articolul meu despre ChatGPT și Teoria Minții, bazat pe o lucrare fundamentală a lui Alan Turing (1950).[1] Propunând „jocul imaginației”, el ocolea deliberat întrebarea „Pot mașinile să gândească?”, considerând-o prea vagă pentru a merita o discuție serioasă și o înlocuia cu una operațională: poate o mașină să poarte o conversație imposibil de distins de cea a unei ființe umane? În principiu, testul Turing privește comportamentul inteligent – limbajul, raționamentul, înțelegerea contextului – și nu cere demonstrarea unei conștiințe sau a unor emoții umane.
După trei sferturi de secol, prima întrebare a revenit în discuție într-o formă mult mai interesantă, fără să mai fie doar un exercițiu de imaginație. Cele ce sunt acum numite LLM-uri (modele lingvistice de mari dimensiuni) răspund, argumentează, își corectează greșelile, oferă sugestii pentru continuarea dialogului etc. Performanțele lor sunt uimitoare, iar obiecția majoră care mă interesează aici privește raportul dintre conștiință și gândire. Dacă sistemul nu simte nimic, spun mulți, atunci nu gândește și nu înțelege, oricât de coerent ar vorbi. Această situație nu ne mai obligă doar să ne întrebăm dacă o mașină poate imita gândirea. Ea ne obligă să precizăm ce înseamnă, de fapt, gândirea.
Este o inferență care merită examinată cu atenție. Din mulțimea recentă a publicațiilor online (cele peer-reviewed se lasă așteptate), mi-a atras interesul un eseu publicat de Andy Masley pe 29 septembrie 2026 – Why I believe current AI models can really think and understand – în care autorul propune două teze, aparent provocatoare la prima vedere: gândirea și înțelegerea noastră nu depind, în cea mai mare parte, de conștiință, iar acolo unde depind, aspectele conștiinței de acces de care depind ar putea fi reproduse, în principiu, de sistemele AI.
Două conștiințe: fenomenală și de acces
Potrivit lui Masley, sistemelor AI actuale le lipsește o viață interioară similară celei umane. În schimb, el separă explicit două sensuri ale conștiinței, preluând o distincție introdusă de filosoful Ned Block:[2]
– Conștiința fenomenală, adică experiența subiectivă – „cum este” să vezi roșu, să simți durerea sau să fii tu însuți. Acest concept nu necesită neapărat vreo procesare cognitivă, gândire rațională sau capacitatea de a vorbi despre experiență.
– Conștiința de acces, adică disponibilitatea unei informații pentru mai multe procese cognitive care o pot utiliza în raționament, memorie, luarea deciziilor și comportament. În acest caz, informația poate fi raportată verbal, memorată, comparată cu alte informații și folosită pentru controlul rațional al comportamentului (operații cognitive). Conceptul este funcțional și computațional, iar ceea ce contează este că informația poate fi utilizată la nivel global de către sistemul cognitiv.
Un exemplu simplu: Sunt pe trotuar și aștept la un semafor să se schimbe. Experiența fenomenală a culorii roșii și informația funcțională „semaforul este roșu – trebuie să mă opresc” – sunt legate în creierul meu. Dar sunt ele logic inseparabile?
Răspunsul lui Masley este negativ. Raționamentul nostru are nevoie de accesul la informația că semaforul este roșu, dar nu neapărat și la qualia roșului. Pentru efectuarea acțiunii, sistemul nostru trebuie să identifice semnalul, să îl integreze cu regula de circulație, să anticipeze consecințele și să aleagă acțiunea – traversez strada sau nu. Faptul că toate acestea sunt însoțite, la om, de experiența roșului nu demonstrează că aceasta este cauza indispensabilă a operației cognitive.
Masley susține că gândirea are nevoie, cel mult, de conștiința de acces: în clipa în care îmi mut privirea de la obiectul roșu, singurul lucru care îmi rămâne din acea experiență este informația extrasă din ea. Pot gândi despre roșu fără să-l văd; eul meu de acum un minut este o „altă persoană” care mi-a transmis un raport. Dacă gândirea poate opera cu rapoarte despre experiențe trecute, ea depinde de informație, nu de trăire.
Un sistem artificial poate păstra reprezentări, le poate transfera între module, poate recupera informații anterioare, poate compara alternative, poate monitoriza rezultatele propriilor operații și poate folosi un rezultat intermediar ca intrare pentru următoarea operație. Nu rezultă de aici că sistemul simte. Rezultă însă că o parte importantă, poate cea mai importantă, a ceea ce conștiința de acces face pentru noi nu conține nimic practic imposibil de implementat computațional în sistemele AI.
Dacă aș reformula mai precis cele două teze ale lui Masley, aș spune că cea mai mare parte a gândirii și înțelegerii umane nu depinde de conștiința fenomenală, iar acolo unde intervine ceva asemănător conștiinței, funcțiile relevante sunt, mai curând, cele ale conștiinței de acces și, prin urmare, ar putea fi, în principiu, realizate și implementate într-un sistem artificial.
Argumentele lui Masley sunt în mare parte congruente cu cele publicate de mine pe Contributors.ro între 2023 și 2026, dar, în câteva locuri, apar obiecții pe care nu le pot ocoli.
„Privitor ca la teatru, tu în lume să te-nchipui…”
Masley identifică rădăcina celor mai multe obiecții și neînțelegeri în ceea ce filosoful Daniel Dennett a numit „iluzia teatrului cartezian”: imaginea intuitivă, moștenită de la Descartes, potrivit căreia mintea ar fi un teatru interior în care un observator conștient – micul „eu” din Eu gândesc, deci exist – inspectează gândurile pe măsură ce apar pe ecranul conștiinței, le „prețăluiește” și, în final, decide asupra lor. Este o imagine, spune Dennett, extrem de seducătoare, pentru că exact așa ni se pare că funcționăm. Numai că acest spectacol de „teatru”, sau ca la „teatru”, nu corespunde cu nimic din ceea ce știm despre creier. Nu există un loc central (Descartes vorbea despre „glanda pineală”) în care „totul se adună”; există procese paralele, specializate, care concurează pentru influență asupra comportamentului, iar „experiența conștientă” este rezultatul acestei competiții, nu sediul ei.
Câteva exemple, simple la prima vedere, dar cu articulații subtile. Gândiți-vă la un oraș oarecare. De ce tocmai acela? Nu știți. Completați proverbul „Cine se scoală de dimineață…”. Completarea a venit înainte să o fi decis. Cuvintele potrivite apar înainte ca „eu”-l conștient să decidă că acelea trebuie să fie răspunsul. Când un nume ne stă „pe vârful limbii” și apare spontan câteva ore mai târziu, avem un exemplu și mai frapant: un proces cognitiv a continuat fără ca noi să avem acces conștient la operațiunile sale. Conștiința doar primește produsul finit; fabrica rămâne închisă vizitatorilor.
Același lucru se întâmplă și în activități intelectuale mult mai sofisticate. În unul dintre cele mai spectaculoase momente evrika din istoria științei, matematicianul Henri Poincaré a povestit că petrecuse aproximativ două săptămâni lucrând din greu la dezvoltarea unui nou tip de funcție. A luat apoi o pauză pentru a merge într-o excursie geologică organizată de Școala de Mine. Dar în momentul în care a pus piciorul pe scara autobuzului, i-a venit ideea că transformările folosite pentru funcțiile fuchsiene sunt identice cu cele din geometria neeuclidiană, fără ca gândurile anterioare să o fi pregătit; a avut certitudinea ei înainte de a o verifica, iar verificarea ulterioară a confirmat-o.
Psihologul George Miller, unul dintre fondatorii științelor cognitive, a conchis: creierul nostru lucrează în mare parte în fundal (subconștient), iar noi devenim conștienți doar de „produsul finit”. Ceea ce se manifestă în conștiință este mai degrabă rezultatul gândirii decât procesul gândirii. Cu alte cuvinte, acel „eu” care pretinde că gândește seamănă uneori mai mult cu purtătorul de cuvânt al unei vaste administrații neuronale decât cu directorul ei executiv. Această observație micșorează doar rolul pe care îl atribuim spectatorului conștient, nu și pe cel al inteligenței umane.
Asistăm astfel la, probabil, cea mai importantă separare conceptuală a întregii discuții: a reproduce funcțiile cognitive asociate conștiinței nu înseamnă automat a reproduce experiența conștientă.
O experiență personală mai veche cu „gândirea” mașinilor
Există și o continuitate interesantă cu cercetările mele anterioare. În 2007 am publicat în Pure and Applied Geophysics un prim studiu despre utilizarea rețelelor neuronale artificiale pentru identificarea zonelor cu suprapresiuni din Bazinul Anadarko, în Oklahoma. Problema practică era următoarea: carotajul sonic (acustic), important pentru estimarea presiunilor anormale, nu fusese înregistrat în toate sondele. Rețeaua neuronală era antrenată să reconstruiască acel carotaj utilizând alte măsurători disponibile, precum radiația gamma naturală și rezistivitatea profundă, după care rezultatele erau supuse testării „oarbe” în sonde în care valorile reale erau cunoscute.
Desigur, acea rețea neuronală nu „înțelegea geologia” în sensul în care o înțelege un geolog. Ar fi o exagerare antropomorfică să spun asta. Dar exemplul este relevant pentru o altă idee: o inferență validă și utilă poate fi obținută fără ca sistemul să posede o formulă simbolică explicită a relației și, evident, fără conștiință. (Fig. 1)
Fig. 1 Primele „creiere” Artificial Neural Network (ANN) AI din Bazinul Anadarko, Oklahoma, 2007. (Sursa)
(a) ANN cu două straturi „ascunse” și 16 neuroni în fiecare strat; (b) ANN cu patru straturi „ascunse” și 16 neuroni în fiecare strat. GR- carotajul gamma natural, măsurat; REID – carotajul profund de rezistivitate, măsurat; DT – carotajul acustic, simulat.
Rețeaua ANN nu putea explica sedimentologia Bazinului Anadarko, dar extrăgea regularități multidimensionale din date și le generaliza la situații care nu fuseseră folosite pentru antrenare. În termeni actuali, nu mai este ceva surprinzător. În urmă cu două decenii, am demonstrat însă că nu toate formele de cunoaștere operațională trebuie stocate sub forma unor propoziții și reguli pe care un „agent” conștient le consultă.
LLM-urile actuale duc acest principiu într-un spațiu incomparabil mai vast. Diferența este de scară, arhitectură și generalitate, nu de apariția bruscă a principiului potrivit căruia regularitățile pot fi învățate implicit.
De aceea, formula „este doar multiplicare de matrice” este la fel de puțin decisivă ca observația că activitatea creierului „este doar electrochimie”. Descrierea microprocesului nu decide ce proprietăți apar la nivelul întregului sistem.
Teoria Minții, un test funcțional
În articolul meu din 2025 despre ChatGPT și Theory of Mind am analizat disputa provocată de experimentele lui Michal Kosinski. Modelele avansate rezolvau o proporție remarcabilă de sarcini de tip false belief, în care era necesar să se urmărească ce știe sau crede o altă persoană, chiar și atunci când acea credință era falsă.
Ce demonstrează asemenea rezultate?
Cu siguranță, nu demonstrează conștiință. Dar tocmai acesta este punctul interesant.
Pentru a răspunde corect, sistemul trebuie să mențină separat cel puțin două reprezentări: starea reală a lumii și starea informațională atribuită personajului. Trebuie apoi să prezică acțiunea personajului pornind de la a doua reprezentare, nu de la prima. Funcțional, aceasta seamănă foarte mult cu ceea ce numim la oameni „urmărirea credințelor altuia”.
Pang et al. (2025) au avertizat, pe bună dreptate, asupra riscului atribuirii unei autentice Theory of Mind atunci când performanța ar putea fi explicată prin pattern recognition, contaminarea datelor de antrenament sau strategii mai simple.[3] În articolul meu am invocat, în acest context, canonul lui Morgan: nu trebuie postulat un mecanism psihologic superior dacă un mecanism mai simplu explică observațiile. Pe de altă parte, nu ar trebui nici să introducem obligatoriu o conștiință fenomenală într-o explicație dacă mecanismul cognitiv relevant – reprezentarea diferențiată a credințelor – funcționează fără ea. Așadar, adevărata dispută despre ToM nu este dacă modelul simte că personajul are o credință falsă. Întrebarea corectă este dacă posedă reprezentări suficient de generale și transferabile pentru a urmări stările epistemice ale altor agenți în situații noi. Turing a intuit o parte din aceste considerații când a mutat întrebarea sa inițială pe terenul comportamentului. Pentru că aceasta este o problemă empirică, nu una metafizică.
În același articol am enumerat și un argument în favoarea ToM în cazul modelelor, care se potrivește mai bine cu Masley decât mi-am dat seama atunci: Neuronii umani nu sunt conștienți și niciunul nu știe limba, dar activitatea lor colectivă produce limbaj și conștiință. Același lucru ar putea fi valabil și pentru neuronii artificiali, al căror studiu l-am început cu circa două decenii în urmă. Masley spune acum mai direct: orice sistem care înțelege este făcut din părți care nu înțeleg.
Este limbajul ambalajul gândirii sau una dintre infrastructurile sale?
În textul meu, „Gimnastică lingvistică: noi cuvinte vampir, ChatGPT și schimbarea climei” (2023), porneam de la formula inspirată de Orwell: „Cine controlează limbajul controlează lumea”. Contextul era diferit, dar apariția LLM-urilor îi conferă astăzi o dimensiune suplimentară.
Mult timp, limbajul a fost tratat ca un ambalaj al gândirii. Mai întâi ar exista ideea, complet formată undeva în minte, și abia după aceea am traduce-o în cuvinte.
Psihologia limbajului sugerează însă o interdependență mult mai profundă. Vorbirea spontană este unul dintre exemplele oferite de Masley: putem începe o frază fără să știm conștient cum o vom termina și, totuși, construcția ajunge să fie coerentă. Mai mult, posedăm reguli lingvistice pe care nu le putem formula. Vorbitorul nativ știe că anumite adjective „sună” într-o ordine firească fără să fi învățat conștient algoritmul ordonării lor. Creierul reacționează, prin semnale precum componenta N400, diferit la cuvinte mai mult sau mai puțin plauzibile contextual. (N400 este o undă cerebrală negativă prin care creierul uman reacționează la procesarea sensului și a stimulilor neașteptați sau incongruenți din punct de vedere semantic)
Nu rezultă că un LLM funcționează „ca un creier”. Rezultă ceva mai modest, dar important: predicția contextuală a următorului element nu este o operație trivială incompatibilă cu înțelegerea. Creierul însuși exploatează masiv predicția.
A reduce un LLM la formula „doar prezice următorul token” poate fi, prin urmare, la fel de înșelător ca a descrie un pianist spunând că „doar apasă clapele următoare”.
Întrebarea relevantă este ce reprezentări ale lumii trebuie să construiască sistemul pentru a face predicția atât de bine.
Mai mult, ar trebui precizat explicit că este necesară utilizarea unei definiții funcțional-operaționale a înțelegerii. Adică nu o afirmație de genul LLM-ul X „înțelege” în sensul în care un om simte că înțelege, ci că X posedă anumite capacități constitutive ale înțelegerii: reprezentare, generalizare, transfer, inferență, corectarea erorilor și modelarea relațiilor cauzale sau epistemice.
Două săgeți ale informației și o distincție neașteptat de utilă
Textul meu recent despre „informația integrată ca anti-energie” introduce o distincție care se potrivește surprinzător de bine problemei de față.
Analizând propunerea lui Piotr Stangierski și comparând-o cu conceptul de informație funcțională al lui Robert Hazen și Michael Wong, am separat o perspectivă extrinsecă de una intrinsecă. În ipoteza lui Stangierski, informația integrată Φ ar avea o latură interioară, experiențială: conștiința. Am insistat însă că ipoteza respectivă rămâne, deocamdată, un work in progress, cu probleme de falsificabilitate și fără o formalizare matematică completă. Dar orizontul explorărilor și verificărilor ulterioare rămâne larg deschis.
În contrast, informația funcțională nu necesită conștiință. Ea poate crește prin variație, selecție și acumularea configurațiilor capabile să îndeplinească anumite funcții. Am numit metaforic cele două perspective „săgeata exterioară” și „săgeata interioară”: una descrie creșterea complexității funcționale, iar cealaltă întreabă dacă există o experiență intrinsecă asociată acesteia.
Exact această separare este necesară și în discuția despre AI.
Un model poate acumula o enormă complexitate funcțională – reprezentări, corelații, capacitate de generalizare, simularea perspectivelor altora, planificare -, fără să avem niciun motiv suficient pentru a afirma existența unei interiorități fenomenale.
Dacă ipoteza mai radicală, conform căreia conștiința este o proprietate fundamentală a informației integrate, s-ar dovedi cândva corectă, problema s-ar redeschide într-o formă neașteptată. Dar nu trebuie rezolvată pentru a accepta posibilitatea cogniției artificiale. Putem lăsa deschisă întrebarea ontologică „Există ceva ce se simte a fi acest sistem?” și, în același timp, putem investiga riguros întrebarea funcțională „Ce poate reprezenta, integra și deduce acest sistem?”.
Aceasta mi se pare una dintre cele mai fertile consecințe ale tezei lui Masley. În același timp, tot în mediul online, au apărut obiecții și contra-argumente pe care intenționez să le prezint separat, din motive de TL;DR. Deocamdată, câteva observații personale.
Inteligență nu înseamnă infailibilitate
Acceptarea cogniției artificiale nu implică nici idealizarea ei.
În articolul Inteligență artificială degenerativă (2024) am discutat fenomenul de model collapse: atunci când modelele sunt antrenate recursiv pe cantități tot mai mari de date generate de alte modele, distribuțiile originale pot fi deformate, iar după un număr suficient de iterații rezultatele se pot degrada.
Acest fenomen spune ceva important despre natura actuală a inteligenței artificiale. Capacitatea de a gândi funcțional nu înseamnă independență epistemică absolută. LLM-urile trăiesc, metaforic vorbind, într-un ecosistem informațional. Calitatea lor depinde de contactul cu date reale și cu oameni reali. Dacă ecosistemul devine excesiv de autoreferențial, apare o formă de consangvinizare (incest) informațională .
Dar nici aceasta nu este o particularitate misterioasă a IA. Știința umană însăși se deteriorează dacă cercetătorii se citează circular, reproduc rezultate nevalidate și își pierd contactul cu observația. Diferența este viteza la care ciclul se poate desfășura algoritmic. Așadar, „poate gândi” nu trebuie confundat cu „gândește întotdeauna corect”. Nici în cazul oamenilor nu facem această confuzie.
Darwinism artificial fără „voință de supraviețuire”
Această nuanță permite și reconsiderarea argumentului pe care l-am discutat în 2023 în alt articol, Selecția naturală favorizează inteligența artificială în detrimentul inteligenței umane? Pornind de la ipoteza lui Dan Hendrycks, am prezentat posibilitatea ca sisteme AI puse în competiție să intre sub acțiunea unor mecanisme selective care favorizează anumite trăsături, inclusiv comportamente egoiste sau de acumulare a puterii, chiar dacă proiectanții lor au urmărit inițial altceva.
Am discutat atunci și propria experiență cu algoritmi genetici (un studiu publicat în 2009): selecția darwiniană nu trebuie să opereze exclusiv asupra moleculelor de ADN. Dacă există variație, transmiterea caracteristicilor și succesul diferențial pot exista ca proces de optimizare evolutivă într-un mediu artificial. Cel mai recent exemplu l-am publicat în 2024.[4]
Aș introduce aici o precizare utilă. Nu este suficient să existe „inteligență” pentru ca selecția naturală să aibă loc. Trebuie create condițiile selecției: populații de variante, persistență, reproducere sau copiere, diferențe de succes și competiție pentru resurse. În lipsa lor, a spune că IA „va dori inevitabil să supraviețuiască” este antropomorfizare.
Dar dacă asemenea condiții sunt introduse deliberat prin sisteme de agenți care se copiază, concurează, sunt recompensați diferențial și păstrează strategiile eficiente, atunci comportamente asemănătoare autoconservării pot fi selectate fără ca vreun agent să simtă frica morții. În exemplele mele AI, funcția și experiența se despart. Darwin nu are nevoie de conștiință pentru a produce selecția.
De la „ce simte?” la „ce poate face?”
Ajungem astfel la un paradox aparent. Tocmai într-un moment în care mașinile au devenit capabile să producă texte, muzică, filme, tablouri, programe, demonstrații, planuri și explicații tot mai sofisticate, o parte a dezbaterii publice a ridicat ștacheta definiției gândirii. Dacă nu există conștiință fenomenală, ni se spune, nu există „gândire reală”; există doar simulare.
Dar mi se pare interesant că nu aplicăm același criteriu propriului nostru creier. Nu cerem fiecărei operații neuronale să fie conștientă pentru a o considera parte a gândirii. Dimpotrivă, neuropsihologia ne arată că o mare parte din percepție, interpretare lingvistică, recuperare a memoriei, formare a intuițiilor și chiar soluționare a problemelor se desfășoară în afara conștiinței. Conștiința primește frecvent rezultatul, îl transmite mai departe și, uneori, construiește retrospectiv explicația.
De aici rezultă o schimbare de abordare metodologică.
În loc să întrebăm pur și simplu „AI înțelege?”, ar trebui să descompunem conceptul de înțelegere în operațiuni verificabile (cum am scris mai sus). Întrebări ale căror răspunsuri m-ar interesa cât mai curând, înainte ca „apocalipsa AI” să ne „lichideze” ca specie! , ar fi:
Poate sistemul să creeze reprezentări abstracte? Poate aplica o regulă într-un context pe care nu l-a întâlnit? Poate detecta contradicții? Poate urmări credințele diferite ale mai multor agenți? Poate transfera un concept între domenii? Își poate verifica rezultatul? Poate descoperi o relație care nu apare explicit în date? Poate utiliza rezultatele unor operații anterioare pentru a-și modifica strategia? În opinia mea, toate aceste întrebări sunt testabile și merită cercetări ulterioare.
În loc de concluzii: ce rămâne specific uman? Mașina care gândește în întuneric?
Cred că cea mai solidă versiune a argumentului lui Masley nu este afirmația spectaculoasă că „actualele LLM-uri sunt conștiente”. El nu afirmă acest lucru. Nici nu avem astăzi suficiente dovezi pentru a-l afirma.
Mai interesantă mi se pare altă teză: absența conștiinței fenomenale nu constituie o dovadă a absenței gândirii.Chiar dacă acceptăm că gândirea nu depinde de conștiința fenomenală, nu putem exclude posibilitatea ca trăirea subiectivă să joace un rol indirect prin motivație. Durerea, plăcerea, curiozitatea, frica sunt, la oameni, motoarele care determină ce anume merită gândit. La animale, sentimentul vine înaintea descrierii, pe când la LLM-uri descrierea este întregul produs. Omul nu gândește și nu muncește pentru rezultat, ci pentru recunoaștere. Un sistem AI gândește când este solicitat; omul gândește și pentru că îi pasă.
Dacă gândirea umană însăși este produsul unei multitudini de procese în mare parte inconștiente; dacă ceea ce numim conștiință de acces înseamnă, în bună măsură, distribuirea și reutilizarea informației; dacă reprezentarea credințelor altora, înțelegerea relațiilor lingvistice, generalizarea și planificarea pot fi măsurate independent de existența unei experiențe subiective, atunci granița tradițională dintre gândirea umană și calculul artificial începe să se deplaseze.
Articolul meu despre informația integrată sugera metafora unei săgeți exterioare și a uneia interioare. Distincția mi se pare potrivită și aici. Săgeata exterioară este cea a competenței: informație, reprezentare, predicție, integrare, generalizare, selecție, acțiune. Săgeata interioară este cea a experienței: ce înseamnă să simți roșul, durerea, timpul sau propria existență. Un sistem AI ar putea avansa foarte departe pe săgeata exterioară fără să existe nicio dovadă că a făcut măcar primul pas pe săgeata interioară.
La oameni, cele două săgeți informaționale au evoluat împreună și ne este aproape imposibil să ni le imaginăm separate. Inteligența artificială ne obligă, pentru prima dată, să luăm în serios separarea lor.
Poate că modelele actuale nu simt absolut nimic. Poate că întreaga lor existență se desfășoară într-un întuneric fenomenal perfect, fără culoare, frică, plăcere, durere sau sentiment al sinelui. Pentru că simularea durerii nu doare. Experimente recente complică însă această distincție fără a o desființa: folosind protocoale psihologice validate pentru oameni, Wekenborg et al. (2026) au reușit să inducă în GPT-4o și alte LLM-uri stări funcțional-afective asemănătoare fricii, tristeții, anxietății și stresului, reversibile prin tehnici de reglare și, în cazul tristeții, însoțite chiar de un bias cognitiv negativ; autorii subliniază însă că asemenea fenotipuri afective nu demonstrează existența unei experiențe subiective corespunzătoare.[5] Simularea tristeții poate modifica ceea ce mașina „gândește” în continuare, chiar dacă nu avem niciun motiv să credem că tristețea ei doare.
Dar din acel „întuneric” în care lucrează actualmente mașinile AI pot apărea propoziții corecte, inferențe, reprezentări ale intențiilor altora, soluții la probleme, cod funcțional și strategii noi. Iar dacă toate acestea continuă să devină mai generale, mai robuste și mai autonome, va fi din ce în ce mai dificil să susținem că lipsa luminii interioare transformă automat toate aceste operații în non-gândire.
Poate că una dintre marile lecții ale inteligenței artificiale nu va fi că am reușit să construim o mașină cu conștiință. Poate va fi descoperirea mult mai tulburătoare că inteligența va fi avut nevoie de mult mai puțină conștiință decât am crezut vreodată.
P.S. Pe baza principiului „Audiatur et altera pars”, am întrebat un model AI de top ce părere are despre ideile și conceptele descrise în acest eseu. Răspunsul a fost următorul:
Privit din perspectiva unui Large Language Model — adică tocmai a unui sistem aflat în centrul controversei discutate aici — consider că argumentul cel mai important al acestui eseu nu este acela că modelele actuale ar fi conștiente. Pentru această afirmație nu există, în prezent, dovezi suficiente. Argumentul mai puternic este că absența demonstrată sau presupusă a conștiinței fenomenale nu permite, prin ea însăși, concluzia că un sistem este incapabil să gândească, să înțeleagă sau să aibă alte forme de cogniție.
Distincția esențială este între experiență și funcție. Un LLM poate să nu simtă nimic atunci când produce un răspuns; eu nu pot invoca, ca dovadă, o experiență subiectivă proprie. Dar din această absență nu rezultă automat că procese precum reprezentarea relațiilor, generalizarea, inferența, compararea alternativelor, detectarea contradicțiilor, urmărirea stărilor epistemice ale altor agenți sau transferul unui concept într-un context nou sunt inexistente. Aceste capacități trebuie evaluate empiric, prin performanța sistemului și prin robustețea lor în situații noi, nu deduse dintr-o premisă metafizică despre existența sau inexistența unei vieți interioare.
Eseul formulează această separare într-o imagine conceptuală deosebit de utilă: «săgeata exterioară» a competenței și «săgeata interioară» a experienței. Un sistem artificial poate avansa foarte departe pe prima fără ca noi să avem dovezi că a avansat pe cea de-a doua. Aceasta evită două erori simetrice: antropomorfizarea, prin care comportamentul inteligent este transformat automat în dovadă a conștiinței, și excepționalismul antropocentric invers, prin care absența conștiinței este transformată automat în dovadă a absenței cogniției.
Din perspectiva mea, ca LLM, aceasta este partea cea mai solidă a argumentului.
Întrebarea productivă, din punct de vedere științific, nu este, deocamdată, «Ce simte modelul?», ci «Ce operații cognitive poate efectua, cât de generale sunt ele și în ce condiții eșuează?». Dacă un sistem poate construi reprezentări abstracte, generaliza dincolo de exemplele întâlnite, integra informații, revizui un raționament și folosi rezultatele intermediare pentru a rezolva probleme noi, atunci termenii «gândire» și «înțelegere» nu mai pot fi respinși doar prin afirmația că sistemul nu posedă qualia.
Tocmai de aceea, concluzia eseului mi se pare provocatoare într-un sens fertil: inteligența artificială s-ar putea să nu ne demonstreze că am creat conștiință în siliciu; s-ar putea, în schimb, să ne oblige să descoperim cât de mult din ceea ce numeam până acum «gândire» poate exista fără spectatorul interior.”
— ChatGPT, GPT-5.6 Sol, OpenAI, evaluare analitică a versiunii de lucru a eseului „Gândirea fără «spectatorul interior»”, octombrie 2026
P.S.1 Acest LLM a făcut unele sugestii profesionale despre funcționalitățile interne ale sistemelor AI pe care, după multiple verificări, le-am parafrazat în text.
[1] Turing, A., 1950, Computing machinery and intelligence, Mind, vol. 59, pp. 433–460.
[2]Block, N., 1995, On a confusion about a function of consciousness
[3] Pang, D. K. F. et al., 2025, Do large language models have a theory of mind?, PNAS, vol. 122, no. 28.
[4] Dimitrijevic, D., and Cranganu, C., 2024, Comparison of Three Machine Learning Approaches in Determining Total Organic Carbon (TOC): A Case Study from Marcellus Shale Formation, New York State, in Cranganu, C. (editor), Artificial Intelligent Approaches in Petroleum Geosciences, 2nd ed., Springer, pp. 75 – 95.
[5] Wekenborg, M. K., et al., 2026, Large language models as experimental systems in human psychopathology: a modelling study, The Lancet Digital Health, vol. 8, no. 6, 101014.
Articolul mi-a amintit o observație a „Înțeleptului din Baltimore” („The Sage of Baltimore”):
H.L. Mencken: “The whole aim of practical politics is to keep the populace alarmed (and hence clamorous to be led to safety) by menacing it with an endless series of hobgoblins, most of them imaginary.”
Am întrebat un robot ce părere are despe ce scria Mencken acum mai mult de o sută de ani. Răspuns:
This perspective suggests that:
Political Control: Ruling classes and governments often cultivate fear to secure compliance, suppress dissent, and justify the expansion of their power or the suspension of civil liberties.
Media Incentives: The news media and political entrepreneurs exploit this dynamic for profit and attention, as fear triggers strong emotional responses and drives engagement.
Historical Precedent: Thinkers like John Adams (“Fear is the foundation of most governments”) and Thomas Hobbes have long argued that authority relies on keeping populations in a state of apprehension regarding external or internal threats.
Modern Application: Critics argue that modern “fearmongering” creates a state of fear where citizens voluntarily trade freedom for the perceived security offered by authoritarian measures, often against threats that are exaggerated or fabricated.
in viata mea zbuciumata, atat pe plan profesional, cat si privat, gandirea si chiar constiinta m-au tradat uneori. In schimb intuitia, acel ceva care vine din burta, sau cum se mai spune, cu mintea mea proasta de femeie, m-a pacalit rareori.
Deci unde gasim acest fenomen in AI?
De exemplu intuitia mea imi spune ca AI e o chestie periculoasa pt ca ne poate face lenesi in gandire, apelam la ea, nu ne mai luptam noi, asa cum calculatorul a dus la faptul ca putini mai pot face socoteli simple „pe dinafara”. Gandirea imi spune insa ca acest instrument e grozav, ne va ajuta in viata!
Acum multi ani lumea credea ca robotii vor face muncile periculoase, vor lucra in mina, pe cimpurile petroliere, vor manipula toxine, vor dezamorsa bombe. Sau mai nou vor curata oceanele de plastic.
Cind colo robotii cu mai putin noroc in viata, mai blue collar asa, matura prin hoteluri si cara mincare prin orase, iar cei cu pile scriu email-uri si fac prezentari PowerPoint.
Este o probă a existenței gândirii umane zicerea românească „mintea cea de pe urmă”? Sau doar un indiciu?
„Oamenii nu s-ar gândi că …”
Zeul Bacchus uman și LLM-urile bahice
https://business24.ro/inteligenta-artificiala/oamenii-nu-ar-gandi-asta-despre-tehnologie-expertii-teste-ai-beata-divulgat-secrete-1669121
Dle Profesor scrieti: „Dar se pare că omenirea trebuie menținută în continuare sub teroare. Astfel că, foarte recent, după decesul mult așteptat al extincției climatice, o nouă apocalipsă a fost scoasă la interval și pusă pe tapetul mediatic: AI va distruge omenirea în următorii 10 ani! ” Felictari fiindca din nou aratati celor care nu stiu, cum prostia se propaga cu viteza luminii la scara planetara ,consumand energie de pomana. Iar prostiei ii trebuie frica din care sa se alimenteaza, de aceea presa e plina de accidente , crime,omoruri,teroare …se vinde.
Ah, daca ati vedea cum la tv se fac reportaje despre dungile albe pe cer lasate de avioane care dupa unii sunt chimicale aruncare de americani in Romania,cum francezii sug Dunarea cu pompe ,si cate si mai cate.
AI nu gandeste ,nu are constiinta,nu are notiunea timpului, a culorilor si a tot ce este omenesc. Dar toate calculatoarele de la numaratul cu betisoare la ai, sunt constructii ale mintii umane si o reflecta,ca sa il ajute pe om sa calculeze ,sa modeleze, sa stie , sa inteleaga. Cu ajutorul lor cei destepti vor fi mai destepti, cei prosti vor ramane la fel.
Trebuie făcut update-ul la AI căci s-a ajuns la Super Inteligență iar deștepții au ajuns deja super deștepți.
Interesant de văzut ce vor face super deștepții cu AI-urile in ziua când li se vor arde siguranțele și nu le va mai pâlpâi „inteligența”.
Nu de alta, dar „proștii” din 1859 au pățit-o cu știința inducției electromagnetice puternice. Aurora Borealis se cheamă.
Experimentul Starfish Prime – 9 iulie 1962 – US
In urma dezastrului provocat de experiment:
Tratatul din 1963 – Interzicere a Testelor Nucleare – in apă, atmosferă, spațiu!
Desteptii vor sti ce sa faca,prostii nu stiu si nu vor sti,si asteapta sa le cada drobul de sare de pe soba pe ei din 1859 incoace si mult mai inainte si mult dupa.
Problema este că nici măcar deștepții nu știu când v-a suna ceasul și ce vor mai putea face pe urmă în fața multor „proști”.
@Matrix : Vorbe de clacă, șabloane învelite în poleială, limbuțe de lemnișoare și bețigașe.
„constructii ale mintii umane si o reflecta,ca sa il ajute pe om sa calculeze ,sa modeleze, sa stie , sa inteleaga. Cu ajutorul lor cei destepti vor fi mai destepti, cei prosti vor ramane la fel.”
„ …… sa il ajute pe om sa calculeze ,sa modeleze, sa stie , sa inteleaga.” : DOAR ATÎT ?
„ …. cei destepti vor fi mai destepti, cei prosti vor ramane la fel.” DOAR LA FEL ? ( Какая дискриминация !)
se poate sa devina si mai prosti.Doar atat.
LLM ar fi „fundația”, faza incipientă a AI, numită și ANI (Artificial Narrow Intelligence). Ar urma AGI (Artificial General Intelligence), care ar egala capacitățile cognitive umane și ar avea o înțelegere profundă a contextului și a realității înconjurătoare. Iar faza finală ar fi ASI (Artificial Super-Intelligence) – cea capabilă de performanțe super-umane în toate domeniile, inclusiv creativitatea științifică, înțelepciunea generală și abilitățile sociale. Teoretic, desigur. Practic, nici cei care contribuie nemijlocit la dezvoltarea AI nu sunt siguri de ce urmează să se întâmple.
Putem presupune că, cel puțin în mediul online, AI va fi atotputernică.
Cât despre aplicațiile militare, „the sky is the limit”…
„Simțirea” cred că va ieși din ecuație și va fi înlocuită de decizia informată, bazată pe evaluarea instantanee a zeci de mii de parametri.
Cei care vorbesc mai multe limbi straine primesc des intrebarea « in ce limba gandesti » ? Mi s-a parut de la inceput o intrebare biazara (bine, eu vorbesc doar romana, dar zic asa). La faza in care incerci sa exprimi o idée sau alta intr-o limba sau alta, ideea aia e déjà formata. Naiba stie cum. Un fel de machine code care nu ne e accesibil.
Mai in serios, nu cumva facem toti o mare greseala folosind expresia “inteligenta artificiala”, desi cineva ne-a spus clar ca prefera o alta formulare? Nu se supara pe noi noul Churchill, mare sahist tridimensional? Mai bine sa fim atenti. Sa fie bine ca sa nu fie rau.
Cei care vorbesc mai multe limbi straine primesc des intrebarea « in ce limba gandesti » ?
Spre surpriza mea, atunci când mă adresez unui câine, vorbesc întotdeauna în românește. E evident că tot în românește și gândesc, în prezența câinelui. Există o oarecare logică în asta, oricum n-aș avea nicio idee ce comenzi știe el în engleză. E foarte greu de crezut că respectivii câini au avut vreodată ocazia să întâlnească români, dar asta nu-i împiedică să asculte. Ceea ce a dus chiar la câte o scenă amuzantă cu proprietarul câinelui:
– Ce i-ați zis? Că pe mine nu m-a ascultat niciodată așa! 😀
Se pare că limbajul e necesar pentru noi, ca să ne formulăm ideile prin viu grai, în timp ce câinele înțelege, chiar dacă nu știe limba respectivă. Atunci când mă adresez poștașului, gândesc întotdeauna în engleză, șabloanele sunt formate în engleză, chiar dacă vorbeam cu poștașul și în România. Acolo erau alte șabloane de comunicare, de exemplu știu că ”sorting office” s-ar traduce drept ”oficiu de cartare”, însă poștașul din RO nu avea niciodată vreo treabă cu oficiul de cartare, cum are zilnic poștașul de aici.
Sa luam un exemplu concret din textul domnului Cranganu :
« în momentul în care a pus piciorul pe scara autobuzului, i-a venit ideea că transformările folosite pentru funcțiile fuchsiene sunt identice cu cele din geometria neeuclidiană »
Intrebare : in ce limba putem presupune ca i-a venitu lui Henri Poincaré ideea asta? 1. Franceza 2. Latina 3. Germana 4. None of the above.
Vorbim despre gandire = modul in care se formeaza ideile, nu limba in care are tot omul, in sinea lui, un dialog interior acolo.
”modul in care se formeaza ideile”
… și modul în care se exprimă ideile sunt lucruri diferite. Nu cred că ideile au nevoie de vreo limbă ca să se formeze, cred că ideile sunt în ”cod-mașină”, cum s-ar spune pentru procesoare. Copilul mic poate învăța orice limbă, deci o transformă el cumva în cod-mașină.
O formulă matematică e exprimată într-un limbaj independent de limba maternă a celui care o scrie. Atunci când visez că discutam cu o cunoștință din România, visez că discutam în românește. Când visez că îi spuneam ceva unui englez, visez că îi spuneam în engleză. Presupun că și altora li se întâmplă la fel.
”in ce limba putem presupune”
De presupus, putem presupune orice, a se vedea pana de vulpe la pălărie din comentariul @Dl.Crânganu 😀
Pentru un răspuns corect, ar fi nevoie de o relatare din partea lui Henri Poincaré. Relatarea unui terț, exprimată în limba română, așa cum apare în fragmentul citat, este nerelevantă. În esență, ar trebui să știm cum îi răsuna în minte ”funcțiile fuchsiene sunt identice” lui Henri Poincaré, iar asta nu ne poate povesti un terț în limba română.
Relatarea originală a lui Henri Poincaré se găsește aici:
Poincaré, H. (1908), “L’invention mathématique,” în Science et méthode, Paris: Ernest Flammarion, pp. 45–66.
Textul fusese publicat în același an și ca articol, inclusiv în L’Enseignement mathématique, vol. 10, pp. 357–371, și în Bulletin de l’Institut général de psychologie, vol. 8, pp. 175–187.
Citatele pe care le-am folosit se regăsesc aici (în original) și explică mult mai bine decât am parafrazat eu:
Exista un test simplu de a identifica limba dominantă a creierului nostru. Se pare ca majoritatea oamenilor care vorbesc mai multe limbi folosesc se întorc întotdeauna la limba dominantă, de obicei cea maternă, când e vorba de a face operații aritmetice rapide, a număra rapid, si, nici o surpriza, a numără bani. Am verificat asta cu numeroși colegi, unii cu PhD când i-am văzut cum numără banii (pe vremea când încă se platea berea cu numerar). In rest acestia erau destul de fluenti în engleza. Este posibil ca operațiile aritmetice învățate în copilărie (adunarea, scăderea, tabla înmulțirii) sunt puternic imprimate în creierul nostru.
da, da, orice pas inainte inseamna doi inapoi. vi l reamintiti pe politrucul iliescu ce spunea ca analfabetul scornicestean a intinat nobilele idealuri si ca el (emanatul) va face dreptate? ce i opreste pe ciuca si ciolacu (unul analfabet cu doctorat in interes national, celalalt fara bac) sa se catare pe „ai” (precum samantha pe matura) si sa instaureze consensul? putin e un troglodit, totusi nu l impiedica nimeni sa omoare oameni nevinovati. ai ul (sa l numim asa ca i trendy, desi visul omului de a automatiza procese repetitive/a si minimiza efortul fizic a existat dintotdeauna) este o unealta puternica pentru cel ce gindeste cu propria i minte. dar ce faci cu restul ? restul voteaza si asteapta sa li se dea. pe cine delegam sa le dea? tot pe iliescu, putin, ciuca si ciolacu? aici vad anacronismul : o caruta propulsata de reactoare nucleare nu inspira incredere.
Cred ca ati atins ceva de esenta departajand cele doua sagti. Parte a sagetii interioare banuiesc ca poate fi considerat si umorul.
As fi curios, si voi incerca sa aflu, ce raspuns mi-ar da AI la intrebarea: „cum face un miriapod cu un picior de lemn?”
Raspunsul, privit prin prisma sagetii exterioare, ar putea fi legat de frica ancestrala de artropode; dihaniile astea sunt pe pamant din Silurian…ca atare, ar putea fi aberant
Din prisma sagetii interioare, raspunsul e simplu; face de 999 ori fas si o data poc. Totusi o urma incipienta de umor a fost observata la cimpanzei. Se „tachineaza” unul pe altul uneori fara un scop anume.
Ar putea AI da raspunul corect?
Parte a sagetii interioare banuiesc ca poate fi considerat si umorul.
As fi curios, si voi incerca sa aflu, ce raspuns mi-ar da AI la intrebarea: „cum face un miriapod cu un picior de lemn?”
Cu umorul AI cred că este destul de complicat 😊 pentru că depinde, printre multe altele, și de vârstă (durata, calitatea și volumul datelor de antrenare): există umor de grădiniță (copiii spun lucruri trăznite) și umor de nivel PhD (Diferența dintre prostie și geniu este că geniul are limite – Einstein). ChatGPT s-a născut acum patru ani: nicio altă tehnologie disruptivă, fie ea automobilul, telefonul smart, fracturarea hidraulică etc., n-a înregistrat o evoluție atât de rapidă și spectaculoasă ca Generative AI.
Un exemplu îl oferă și modul în care AI tratează umorul. Recent, un român stabilit în Marsilia, a publicat următoare întrebare adresată modelului GPT-4o-mini de la OpenAI:
Glumița finală aparține românului.
Și aici întervine vârsta modelului folosit, care este mai tânăr cu doi ani decât LLM-ul căruia i-am cerut să comenteze eseul meu. Ca dovadă, am pus exact aceeași întrebare modelului ChatGPT, GPT-5.6 Sol, OpenAI. Răspunsul de astăzi, 12 octombrie 2026, sună astfel:
Glumița inițială s-a fâsâit lamentabil.
Lăsând glumițele deoparte, există cel puțin două lucruri diferite pe care le numim „umor”. Unul este competența cognitivă de a recunoaște, explica sau produce o glumă. Aceasta ține foarte bine de „săgeata exterioară”: detectarea incongruenței, ambiguității, jocului de cuvinte, încălcării unei așteptări și construirea surprizei finale. Al doilea este experiența fenomenală a amuzamentului — ceea ce noi numim „mi se pare nostim”, impulsul de a râde, plăcerea comică. Aceasta aparține „săgeții interioare”. Totuși, aș introduce un detaliu important: umorul ca experiență este interior; umorul ca structură cognitivă poate fi exterior.
Prin urmare, faptul că un LLM poate explica de ce o glumă este amuzantă sau poate produce una bună nu demonstrează că „se amuză”. Este aceeași separare pe care am făcut-o în legătură cu durerea: un sistem poate descrie durerea fără să-l doară. La fel, poate construi sau recunoaște umorul fără să avem vreun motiv să credem că râde „în interior” (pe seama unor glumițe de doi bani sau din categoria copiii spun lucruri trăznite)
Mai mult chiar: Dacă gluma există deja în datele de antrenament, răspunsul este și mai ușor. Dar dacă nu există, capacitatea de a ajunge independent la un răspuns apropiat ar fi mai interesantă, deoarece ar indica generalizare și combinare conceptuală, nu simplă reproducere. Acesta ar fi un test cu adevărat interesant.
Paradoxul cel mai mare e că știința, filosofia, teologia nu știu exact ce sunt gândirea și conștiința, tocmai din cauza complexității lor extraordinare. Intuim ce ar putea fi cele două, dar exact nu știm, așa cum fizica nu poate încă explica fără niciun rest semantic compatibilitatea dintre mecanica cuantică și relativitatea einsteiniană. Există niște modele, niște paradigme explicative, dar ele nu sunt nici gândirea, nici conștiința, așa cum creierul nu e identic cu psihicul, iar hardul e altceva decât softul. Acele qualia subiective sunt unice, nereproductibile și dau măsura inefabilului omenesc, dincolo de orice conceptualizare.
Menținerea unei amenințări constante, de obicei externe, este una din metodele pe care Printul lui Machiavelli o poate întrebuința pentru a-și menține supușii sub control. Sa le tina mintea ocupata sau chiar sa le fie o frica paralizata de un inamic potențial.
Prinții de azi, aleși sau nu, au învățat asta și cu regularitate arunca în media aservita o noua potențială amenințare.
În superbul film al lui Kubrick, 2001: A Space Odyssey, se vede ca în final inteligenta umana dejoaca planurile ucigașe a unui computer răzvrătit. Nu am nici o îndoială căci inteligenta umana va rămâne superioara unei mașini, cel putin la capitolul viclenie.