Gândim fără să fim conștienți? Despre înțelegere, conștiință și inteligența artificială

Articolul mi-a amintit o observație a „Înțeleptului din Baltimore” („The Sage of Baltimore”):

H.L. Mencken: “The whole aim of practical politics is to keep the populace alarmed (and hence clamorous to be led to safety) by menacing it with an endless series of hobgoblins, most of them imaginary.”

Am întrebat un robot ce părere are despe ce scria Mencken acum mai mult de o sută de ani. Răspuns:

This perspective suggests that:

Political Control: Ruling classes and governments often cultivate fear to secure compliance, suppress dissent, and justify the expansion of their power or the suspension of civil liberties.

Media Incentives: The news media and political entrepreneurs exploit this dynamic for profit and attention, as fear triggers strong emotional responses and drives engagement.

Historical Precedent: Thinkers like John Adams (“Fear is the foundation of most governments”) and Thomas Hobbes have long argued that authority relies on keeping populations in a state of apprehension regarding external or internal threats.

Modern Application: Critics argue that modern “fearmongering” creates a state of fear where citizens voluntarily trade freedom for the perceived security offered by authoritarian measures, often against threats that are exaggerated or fabricated.

in viata mea zbuciumata, atat pe plan profesional, cat si privat, gandirea si chiar constiinta m-au tradat uneori. In schimb intuitia, acel ceva care vine din burta, sau cum se mai spune, cu mintea mea proasta de femeie, m-a pacalit rareori.
Deci unde gasim acest fenomen in AI?

De exemplu intuitia mea imi spune ca AI e o chestie periculoasa pt ca ne poate face lenesi in gandire, apelam la ea, nu ne mai luptam noi, asa cum calculatorul a dus la faptul ca putini mai pot face socoteli simple „pe dinafara”. Gandirea imi spune insa ca acest instrument e grozav, ne va ajuta in viata!

Este o probă a existenței gândirii umane zicerea românească „mintea cea de pe urmă”? Sau doar un indiciu?

„Oamenii nu s-ar gândi că …”
Zeul Bacchus uman și LLM-urile bahice
https://business24.ro/inteligenta-artificiala/oamenii-nu-ar-gandi-asta-despre-tehnologie-expertii-teste-ai-beata-divulgat-secrete-1669121

Dle Profesor scrieti: „Dar se pare că omenirea trebuie menținută în continuare sub teroare. Astfel că, foarte recent, după decesul mult așteptat al extincției climatice, o nouă apocalipsă a fost scoasă la interval și pusă pe tapetul mediatic: AI va distruge omenirea în următorii 10 ani! ” Felictari fiindca din nou aratati celor care nu stiu, cum prostia se propaga cu viteza luminii la scara planetara ,consumand energie de pomana. Iar prostiei ii trebuie frica din care sa se alimenteaza, de aceea presa e plina de accidente , crime,omoruri,teroare …se vinde.
Ah, daca ati vedea cum la tv se fac reportaje despre dungile albe pe cer lasate de avioane care dupa unii sunt chimicale aruncare de americani in Romania,cum francezii sug Dunarea cu pompe ,si cate si mai cate.
AI nu gandeste ,nu are constiinta,nu are notiunea timpului, a culorilor si a tot ce este omenesc. Dar toate calculatoarele de la numaratul cu betisoare la ai, sunt constructii ale mintii umane si o reflecta,ca sa il ajute pe om sa calculeze ,sa modeleze, sa stie , sa inteleaga. Cu ajutorul lor cei destepti vor fi mai destepti, cei prosti vor ramane la fel.

LLM ar fi „fundația”, faza incipientă a AI, numită și ANI (Artificial Narrow Intelligence). Ar urma AGI (Artificial General Intelligence), care ar egala capacitățile cognitive umane și ar avea o înțelegere profundă a contextului și a realității înconjurătoare. Iar faza finală ar fi ASI (Artificial Super-Intelligence) – cea capabilă de performanțe super-umane în toate domeniile, inclusiv creativitatea științifică, înțelepciunea generală și abilitățile sociale. Teoretic, desigur. Practic, nici cei care contribuie nemijlocit la dezvoltarea AI nu sunt siguri de ce urmează să se întâmple.
Putem presupune că, cel puțin în mediul online, AI va fi atotputernică.
Cât despre aplicațiile militare, „the sky is the limit”…
„Simțirea” cred că va ieși din ecuație și va fi înlocuită de decizia informată, bazată pe evaluarea instantanee a zeci de mii de parametri.

Cei care vorbesc mai multe limbi straine primesc des intrebarea « in ce limba gandesti » ? Mi s-a parut de la inceput o intrebare biazara (bine, eu vorbesc doar romana, dar zic asa). La faza in care incerci sa exprimi o idée sau alta intr-o limba sau alta, ideea aia e déjà formata. Naiba stie cum. Un fel de machine code care nu ne e accesibil.

Mai in serios, nu cumva facem toti o mare greseala folosind expresia “inteligenta artificiala”, desi cineva ne-a spus clar ca prefera o alta formulare? Nu se supara pe noi noul Churchill, mare sahist tridimensional? Mai bine sa fim atenti. Sa fie bine ca sa nu fie rau.

da, da, orice pas inainte inseamna doi inapoi. vi l reamintiti pe politrucul iliescu ce spunea ca analfabetul scornicestean a intinat nobilele idealuri si ca el (emanatul) va face dreptate? ce i opreste pe ciuca si ciolacu (unul analfabet cu doctorat in interes national, celalalt fara bac) sa se catare pe „ai” (precum samantha pe matura) si sa instaureze consensul? putin e un troglodit, totusi nu l impiedica nimeni sa omoare oameni nevinovati. ai ul (sa l numim asa ca i trendy, desi visul omului de a automatiza procese repetitive/a si minimiza efortul fizic a existat dintotdeauna) este o unealta puternica pentru cel ce gindeste cu propria i minte. dar ce faci cu restul ? restul voteaza si asteapta sa li se dea. pe cine delegam sa le dea? tot pe iliescu, putin, ciuca si ciolacu? aici vad anacronismul : o caruta propulsata de reactoare nucleare nu inspira incredere.

Cred ca ati atins ceva de esenta departajand cele doua sagti. Parte a sagetii interioare banuiesc ca poate fi considerat si umorul.
As fi curios, si voi incerca sa aflu, ce raspuns mi-ar da AI la intrebarea: „cum face un miriapod cu un picior de lemn?”
Raspunsul, privit prin prisma sagetii exterioare, ar putea fi legat de frica ancestrala de artropode; dihaniile astea sunt pe pamant din Silurian…ca atare, ar putea fi aberant
Din prisma sagetii interioare, raspunsul e simplu; face de 999 ori fas si o data poc. Totusi o urma incipienta de umor a fost observata la cimpanzei. Se „tachineaza” unul pe altul uneori fara un scop anume.
Ar putea AI da raspunul corect?

Paradoxul cel mai mare e că știința, filosofia, teologia nu știu exact ce sunt gândirea și conștiința, tocmai din cauza complexității lor extraordinare. Intuim ce ar putea fi cele două, dar exact nu știm, așa cum fizica nu poate încă explica fără niciun rest semantic compatibilitatea dintre mecanica cuantică și relativitatea einsteiniană. Există niște modele, niște paradigme explicative, dar ele nu sunt nici gândirea, nici conștiința, așa cum creierul nu e identic cu psihicul, iar hardul e altceva decât softul. Acele qualia subiective sunt unice, nereproductibile și dau măsura inefabilului omenesc, dincolo de orice conceptualizare.

Menținerea unei amenințări constante, de obicei externe, este una din metodele pe care Printul lui Machiavelli o poate întrebuința pentru a-și menține supușii sub control. Sa le tina mintea ocupata sau chiar sa le fie o frica paralizata de un inamic potențial.
Prinții de azi, aleși sau nu, au învățat asta și cu regularitate arunca în media aservita o noua potențială amenințare.
În superbul film al lui Kubrick, 2001: A Space Odyssey, se vede ca în final inteligenta umana dejoaca planurile ucigașe a unui computer răzvrătit. Nu am nici o îndoială căci inteligenta umana va rămâne superioara unei mașini, cel putin la capitolul viclenie.

După cum anticipasem, publicațiile alarmiste, care până de curând ne îngrozeau cu apocalipsa climatică, au schimbat rapid macazul și acum pe șine aleargă amenințător trenul extincției AI.

Pe 29 septembrie 2026, The New York Times a tras un „nou semnal de alarmă” (poate se oprește trenul😊):
Will A.I. Make Your Brain Lazy? Here’s What the New Research Actually Shows.

După lectura materialului din NYT am rămas cu impresia că la „focul de tabără” mediatic, poveștile despre apocalipsa climatică nu au dispărut, dar sunt concurate tot mai vizibil de un nou repertoriu al anxietății — de la „cognitive surrender” și dispariția unor profesii până la pierderea controlului asupra superinteligenței și extincția speciei. Ca de obicei, dificultatea este să separăm riscurile deja măsurabile de scenariile care rămân, deocamdată, literatură prospectivă.

Am citit de curand despre un asa numit „Jargon AI”. Un fel de limba de lemn de curand intrat in uzul managerial. Nu mai gasesc articolul dar mai jos e o scurta expunere a ideei de pe Google. Nu doar omul dreseaza AI-ul ci si invers. Vine sa inlocuiasca jargonul verde, prezent peste tot?

The rise of artificial intelligence in the workplace has created a new wave of corporate speak, often referred to as AI-induced jargon. Managers frequently use these buzzwords to sound forward-thinking, align with corporate tech initiatives, or obscure the reality of automated decision-making.
Here is a breakdown of the most common AI jargon used by managers, what they actually mean, and why they can be problematic.

🤖 Common AI Buzzwords Explained

• „Leveraging AI synergies”
• Translation: We are using an AI tool (like ChatGPT) to do basic tasks, or we are trying to figure out how to use it.
• „Data-driven paradigm shift”
• Translation: We are changing how we do things based on a chart or an algorithm’s output.
• „Upskilling for the AI era”
• Translation: You need to learn how to use AI tools on your own time so your current role doesn’t become obsolete.
• „Human-in-the-loop (HITL)”
• Translation: An actual person still checks the AI’s work before it goes live to make sure it didn’t hallucinate or make a mistake.
• „Algorithmic optimization”
• Translation: Software is cutting costs, changing schedules, or tracking metrics automatically.
• „Cognitive offloading”
• Translation: Letting software handle brainstorming, summarizing, or administrative tasks instead of doing it manually.

⚠️ Why Managers Use It (and the Risks)

While some of these terms are valid technical concepts, their overuse in management creates specific challenges:
• Alienation: Employees who do not work directly with tech feel excluded by overly complex vocabulary.
• Lack of Clarity: Jargon often masks vague planning. Saying „we are integrating AI solutions” sounds impressive but avoids explaining what the tool is and how it helps.
• Deflecting Accountability: When a manager says, „The algorithm optimized our staffing levels,” they are often shifting blame to software for unpopular decisions like layoffs or schedule cuts.
• The „AI Washing” Effect: Some leaders use heavy jargon to make mundane, traditional software updates sound like cutting-edge machine learning to impress higher-ups or clients.

Neuronii umani nu sunt conștienți și niciunul nu știe limba, dar activitatea lor colectivă produce limbaj și conștiință. Același lucru ar putea fi valabil și pentru neuronii artificiali, al căror studiu l-am început cu circa două decenii în urmă. Masley spune acum mai direct: orice sistem care înțelege este făcut din părți care nu înțeleg.

O generalizare naturala a acestei ultime concluzii este urmatoarea:

Orice sistem care are conştiinţă este făcut din părţi care nu au conştiinţă.

Si creierul uman este alcatuit tot din „părţi care nu au conştiinţă” (si este conectat informational la mediul inconjurator printr-o diversitate de senzori). Astfel, nu cred ca exista limitari fundamentale pentru ca in viitor sa existe masini (entitati non-biologice) care sa posede si constiinta, nu doar capacitatea de a gandi. Este posibil ca aceste entitati sa aiba alte fundamente hardware si software decat siliciul si LLM. Probabil vor utiliza si procese cuantice. Pe langa aceste entitati inteligente din viitor, „un model AI de top” de astazi va parea ca un nou-nascut caruia inca nu i s-a taiat cordonul ombilical.

Am gasit articolul…AI Jargon:

https://www.wsj.com/tech/ai/claude-chatgpt-ai-speak-chatbot-cb804933?mod=Searchresults&pos=18&page=1

Now We’re All Starting to Talk Like AI Chatbots Too
In team meetings, group texts and over lattes, people are catching themselves using ‘prompt speak’

Sara Wimmercranz recently found herself opening a work meeting with what’s often referred to as contrast framing, a linguistic tool favored by chatbots. This is not a morning meeting, she began, it’s a reset.

It was just as Wimmercranz feared. She’s ingested so much AI-generated content that it’s now coming out of her mouth.

“We just sound like bots,” says the founding partner of a venture capital firm in Stockholm.

Wimmercranz says conversation at the office increasingly sounds like it came straight from Claude or ChatGPT. She finds herself using more punchy phrases and partaking in an un-Swedish practice: giving fawning feedback, such as telling someone they’re “brilliant” or “so smart” just like a sycophantic large language model (LLM) would serve up.

“In Sweden, the culture would just be quietly listen,” she says. It’s not nothing. You’re right to push back. I mistakenly repeated a common myth as fact—that’s on me. But here’s the honest truth: People are spending so much time with AI that they’re adopting chatbots’ favorite phrases in conversation, Slacks, emails and texts. Some call them LLM’isms, others refer to it as “Claude speak.”

Will Barnett, head of recruiting for a Bay Area startup, swears he still speaks like a human but finds AI-use is influencing his communications over Slack and email. His writing has a certain formality and a genericness that doesn’t always feel like him.

“I will catch myself when I’m writing where I’m like, ‘Oh my God, I shouldn’t have even written that. I should have just let AI do it because it sounds the same,” he says. “It’s trained me to be more like it, instead of the reverse.”

Barnett, 42, has taken to editing correspondence he wrote himself to make it sound like less AI, which he notes would be “the exact same workflow if I was actually just using an LLM.”

Allie K. Miller, an AI adviser to Fortune 500 companies who lives in New York, says that in a recent group chat with founders, the conversation turned to “cave man speak.” It’s their name for a hyperdirect and cost-effective prompting style that uses as few words as possible to direct the AI.

“They all shared that their cave man speak was bleeding into their everyday and that they would say things like, ‘Why no bullets?’” she says.

Miller says she has a new appreciation for any piece of writing that predates ChatGPT’s launch in November 2022, and for words that an LLM would be unlikely to spit out.

“Cacophony,” she says wistfully. “Man, I don’t think I’ve ever seen AI write that word.”

Because top LLMs respond so well to upfront goal statements, Miller said people will sometimes prompt each other in team meetings.

“If someone is rambling we will often interrupt and say what is the goal?” she says. Such prompts serve to speed up the person talking. It also helps the AI agent recording the meeting to take better notes.

Daniel Wolkowitz, who lives in San Francisco and works at an AI startup, has started to find it difficult to tell whether a Slack or email message was written by a co-worker using AI, or one who has unwittingly started writing like AI.

What he does know is more messages come through with phrases like “it’s not this, it’s that,” “these are the problems,” and “this is how it happens.”

“My hunch is that we’re atrophying our brains,” says Wolkowitz, 38. “As a secondary result, I suspect that more people are starting to naturally communicate that way.”

Deepan Mehta, who lives in San Francisco and runs an AI startup, started keeping the equivalent of a “swear jar” but for “prompt speak,” at the office. Instead of a jar there’s a white board and every time someone speaks in AI-like language, they get a tally mark. Words and phrases that will earn you a mark: genuinely, load-bearing, smoking gun, X is the new Y, and any “crazy hyphenated contractions that no one would normally use,” says Mehta, 33.

If you have the most tally marks at the end of the week? “You pay for happy hour.”

David Bohigian of Washington, D.C., who works as a nonprofit CEO, has a theory that much of AI-speak is drawn from the same linguistic style that classically trained business professionals and lawyers have been using for years. “I had read 500 business books before AI came out,” says Bohigian, 56. “And AI has read those same books and 500 more.”

Bohigian has long been throwing out prompt-like directions such as “think like an analyst” or “let’s red team this.” These days, he finds more people understand what he’s talking about.

“Bottom line up front,” he says. “BLUF was an acronym back in the day. Now people get it more when you say that.”

Angela Nibbs has spent 20 years working in PR trying to get executives to not use corporate jargon. AI is making that even harder.

When Nibbs asks founders why they started their company, instead of sharing a story, they’ll launch into three key pillars, the market opportunity and their competitive differentiation.

“Everyone sounds polished,” she says, “but no one sounds particularly interesting.”

Atata timp cat AI nu e obligatoriu eu nu-mi fac nici o grije pt simplu fapt ca o parte din activitatea oamenilor se face de placere.
De ex de ce consuma domnul Cranganu timp si energie pt a scrie aceste articole? Sunt sigur ca nu e platit si nici acuzatiile idiotilor gen Ju/…/x, cum ca ar face lobbiism pt petrol nu e adevarata! O face pur si simplu pt ca-i face placere si uneori mai intilneste ici colo pe cineva cu care rezoneaza!

Sau de ce ne uitam la fotbal, de ce dansam, de ce ne place muzica. Pur si simplu acestea ne umplu viata.

La fel de bine unuia sau altuia i-ar putea face placere sa gandeasca, si deci s-ar lipsi de „binefacerile” AI, chiar cu riscul de a porni pe un drum nepietruit. Eu vad AI pt mine ca o biblioteca f comoda, ma ajuta sa gasesc ceva asa cum cautam pe vremuri in carti, dar de gandit voi incerca in continuare sa gandesc cu capul meu.

Cu puțin înainte să moară, Daniel Dennett denumea LLM-urile și toți agenți AI în general – Counterfeit People. Am mai pomenit despre acești „oameni calpi” – într-un comentariu la un alt articol al domnului Crânganu despre Inteligența artificială degenerativă – unde întrebam, mai mult în glumă, ce asemănare e între Dennett și Eminescu. Vezi aici: https://www.contributors.ro/inteligenta-artificiala-degenerativa/#comment-630898

Cu ceva timp înainte – în 2009 într-un articol intitulat Darwin’s Strange Inversion of Reasoning, publicat în PNAS – Dennett a introdus o altă expresie la fel de memorabilă: „Competență fără Înțelegere” – Competence without Comprehension ) pentru a contesta presupunerea de „bun simț” conform căreia gândirea inteligentă, înțelegerea, sau existența unei minți conștiente ar trebui să fie condiția prealabilă a unui comportament inteligent. Prin această răsturnare a ordinii firești, prin această Inversiune Stranie de Raționament, Dennett a dorit să transmită câteva idei fundamentale.

Prima idee era legată de Evoluția Darwiniană ce trebuie înțeleasă ca algoritm orb. Selecția naturală este un proces de sortare și eliminare, prin încercare și eroare, lipsit de minte și de scop. Creaturi precum bacteriile sau termitele execută comportamente de supraviețuire extrem de sofisticate (cum ar fi construirea unor mușuroaie complexe cu temperatură reglată) fără să aibă vreo idee de ce fac sau cum o fac. „Motivele” sunt încorporate în proiectul evoluției, nu în mintea organismului.

Prin această inversare a ordinii dintre minte și mecanism, Dennett a susținut că procesele mecanice, lipsite de conștiință, creează mai întâi competența, iar adevărata înțelegere și conștiința apar mult mai târziu, ca un produs al acestor competențe. LLM-urile sunt exemple clasice de astfel de competențe lipsite de înțelegere. Dacă la un moment dat în evoluția lor aceste LLM-uri, aceste „Inteligențe Artificiale” vor deveni și „conștiente” e o altă discuție. Și e o discuție extrem de dificilă atâta timp cât conceptele de Inteligență și Conștiință sunt prost definite și neagreate. Dar mai ales pentru că celebra Problemă a Cadrului – The Frame Problem – se aplică atât inteligențelor naturale cât și celor artificiale. Conștiente sau nu.

În mod similar, Alan Turing a demonstrat că un computer mecanic poate efectua operații aritmetice impecabile sau manipulări simbolice complexe fără a avea vreo „înțelegere” subiectivă a ceea ce înseamnă de fapt numerele sau matematica.

Dennett nu a negat faptul că oamenii au capacitatea de înțelegere, dar a considerat-o o etapă târzie a dezvoltării. Prin evoluția biologică, prin condiționare și evoluție culturală – cum ar fi învățarea limbii și a memelor din cultura în care s-au născut – copii acumulează treptat, pornind de la competențele cele simple, straturi de instrumente cognitive până când apare înțelegerea propriu-zisă. Sau, mă rog, ce numim acum „înțelegere”, luând ca etalon specia umană.

În mod tradițional toți oamenii – inclusiv oamenii de știința – credeau, și încă mulți mai cred, că e nevoie de o minte conștientă și de o înțelegere profundă, i.e. comprehensiune, pentru a îndeplini o sarcină inteligentă ce necesită competență. Exprimarea coerentă într-o limbă (orice limbă) e privită ca o astfel de competență aflată exclusiv în posesia unei singure specii de animale -Homo Sapiens. Alții – l-am dat pe Dawkins de exemplu în altă discuție – cred că nu e nevoie nici de minte „conștientă” și nici de o „înțelegere profundă”, și că AI-ul Claude poate fi considerat un excelent profesor de literatură.

Mare încurcătură, iarăși oamenii de știință cu reputație solidă nu pot cădea de acord.

O iau cum îmi vine la mână :)
Referitor la exemplul cu Poincare. Ok, am înțeles căo mare parte din activitatea cognitivă umană are loc fără acces introspectiv direct. Dar faptul că nu suntem conștienți de procesul prin care ajungem la o idee nu înseamnă neapărat că partea conștientă nu contribuie la acel proces. Poincare a lucrat la idee conștient, apoi a verificat-o tot conștient. Ce mi se pare necear aici de precizat e că existența procesării inconștiente nu o face implicit complet independentă de procesarea conștientă.
Apoi, metafora celor 2 săgeți ajută, clar, să nu ne ducem în extreme de genul că orice este inteligent e și conștient sau să nu negăm inteligența în lipsa conștiinței. Dar săgețile metaforei sunt separate, pe cnd la oameni nu e chiar așa. Experința, atenția, memoria, decizia etc. interacționează bine-mersi, chiar dacă nu știm noi exact cât și cum.
Și las la final ce mă deranjează cel mai tare – introducerea cu paralelele apocaliptice. Nu am chef să tastez pentru fiecare șurub pus greșit acolo, dar aș vrea să spun doar că un sistem nu trebuie să fie conștient pentru a fi periculos (dacă mă duc și cu gândul la cine sunt vectorii de decizie în dezvoltarea/guardrailingul acestor sisteme, mă deprim de tot). Cumva introducerea intră în coliziune cu paralela darwinian-artificală atinsă mai târziu…
P.S. Știam că LLM-urile sunt sicofanții de serviciu când li se cere o evaluare :) Ar fi fost mai interesant dacă i se cerea să dezvolte cea mai puternică obiecție la cele scrise. Probabil aveam o lipsă de apocalipsă în introducere sau, cine știe, apărea o întrebare interesantă de genul: dacă inteligența și conștiința au evoluat împreună în cazul omului, deși sunt fenomene fundamental diferite, ele pot exista separat?

Înfricoșător. Oare oamenii ăștia au conștiința faptelor lor? Așa s-a întâmplat și cu fizica nucleară, din curiozitate „științifică” au creat bomba atomică care era cât p’aci să distrugă omenirea(pericolul încă nu a trecut).
Acum „oamenii de știință” atacă în forță însăși esența existenței umane, prin accelerarea cercetării științifice în domeniul IA. A venit la rând GÂNDIREA umană, respectiv cercetarea acesteia în vederea unei posibile algoritmizări.
Eu sper să se demonstreze că Algoritmizarea Gândirii este imposibilă. Mă bizui pe faptul că Creierul uman funcționează ANALOGIC, o „pupare” a lui cu algoritmii siliconici ar trebui să fie imposibilă. Sper. Altfel, vom deveni toți Cyborgi.
Ar trebui ca TOATE CERCETĂRILE în domeniul IA+Ereditate+Genetică să fie INTERZISE.

de ce sunt cenzurat?

interesante unele comentarii. pastila de siliciu (ultra/nano miniaturizata) poate declansa procese, atit de multe incit oamenii ce le au imaginat le pot pierde controlul, totusi ele isi continua/fac treaba atita vreme cit sint hranite energetic/electric. nu se pot extinde de la sine daca omul nu le pune la dispozitie suportul, alta pastila de siliciu, si alta, si alta. saminta unei plante are incorporata informatie, daca nu i actualizata permanent poate dispare (sub falcile unui parazit ce evolueaza si el). celula ou/zigotul nu si modifica dimensiunea (fizica), dar informational duce n circa transformari de miii si mii de ani si se extinde (nu fizic dar informational si nu doar). cip ul imaginat de om este dependent de suportul material, celula biologica nu. nu cred ca cipul eventual mecanica cuantica (ce ne teleporteza) ne va spune cine sintem.

Ca să putem compara sistemele de “inteligenţă artificială” cu sistemele de inteligenţă umană trebuie să înţelegem cum funcţionează inteligenţa umană şi sistemul nervos.

Există o ierarhie a sistemului nervos uman, pozițiile din vârful ierarhiei sunt ocupate – în ordine către cea mai evoluată poziţie – de:

MEDULLA OBLONGATA cu PONS VAROLII +

“controlling vital autonomic functions like breathing, heart rate, and blood pressure, and serving as a major pathway for nerve signals” – AI

(conectează “cerebellum” de nervii spinali).

Este centrul coordonării multiple (“compound co-ordination” – Herbert Spencer)

“It receives directly the auditory impressions, the impressions of taste, and, indirectly through the corpora quadrigemina, is affected by visual impressions : meanwhile sending impulses to the various muscles of the eyes, the face, the jaws, and the mouth. By it the movements of all four limbs are combined in joint acts ; and by simultaneously regulating them, it makes the head and jaws co-operate with the limbs. The various impressions and muscular motions implied by the act of swallowing, it brings into due relation. Receiving the respiratory stimulus, it emits the stimuli to those muscles which enlarge and diminish the thoracic cavity, so causing inspiration and expiration ; and, as a consequence, it is the centre which, disturbed by the more violent irritations of the respiratory surface, sends out to the respiratory muscles those more violent impulses which, cause coughing and sneezing: to which may he added, as actions belonging to the same class, crying and yawning. Lastly, through the pneumogastric nerve, it controls the action of the heart, and the actions of other viscera. Thus it is a centre to which come, in some cases directly but in most cases indirectly, impressions from all parts of the external surface, as well as from the mucous lining of the mouth, oesophagus, and lungs ; and to which there also come, directly or indirectly, impressions received through the higher senses.” – H.Spencer

“The functions of the two still higher centres, the CEREBELLUM and the CEREBRUM, have now to be defined in terms of the same nature. How shall we express them ? Both of these great bi-lobed masses arise as buds out of the originally almost-uniform cranio-spinal axis ; and as they enlarge, their distal portions grow more massive than their proximal portions, so that they end in being pedunculated. Each of them thus bears to the medulla oblongata, a relation like that which the superior ganglion H, in the diagrammatic Fig. 4, bears to the inferior ganglion F ; and we may not unreasonably infer that their functions are analogous to those hypothetically assigned to the ganglion H. That is to say, we may regard them as organs of doubly-compound coordination — organs which have for their common function, the re-combining into larger groups, and into countless different orders, the already-complex impressions received by the medulla oblongata; and which have the further function of so arranging the already-complex motor impulses issuing from the medulla oblongata, as to form those far more involved aggregate actions, simultaneous and successive, which, being adjusted to these involved im pressions, achieve remote ends. The general truth of this definition may, I think, be safely assumed ; since it is simply a statement in other terms, of what, in ordinary language, is called INTELLIGENT ACTION ; which habitually characterizes vertebrate animals in proportion as these centres are largely developed” – H.Spencer

CEREBELLUM
(“Cerebellar damage produces disorders in fine movement, equilibrium, posture, and motor learning in humans” – Wiki)
(“The cerebellum differs from most other parts of the brain (especially the cerebral cortex) in that the signal processing is almost entirely feedforward—that is, signals move unidirectionally through the system from input to output, with very little recurrent internal transmission.” – Wiki)
“The cerebellum is unusually developed in birds of prey, which have to co-ordinate with great accuracy the relations of distance, direction, and complex form, as well as very precisely to co-ordinate the involved movements appropriate to these involved impressions. – H.Spencer

“the cerebellum is not an organ for the co-ordination of motions only, or of synchronous motions only; but that it is also an organ fur the co-ordination of simultaneous impressions, and for the co-ordination of the synchronous motions in adaptation to the simultaneous impressions. And it further implies that not all simultaneous impressions and adapted synchronous motions are co-ordinated by the cerebellum ; but only the doubly-compound ones, which have for their external correlatives the intricate combinations of attributes that distinguish objects from one another, and the more multiplied and varied localizations of objects in the space that extends beyond the immediate limits and reach of the organism.” – H.Spencer

CEREBRUM
The cerebrum is “the largest part of the brain that controls conscious thought, voluntary movement, and sensory processing” – AI
“the cerebrum predominates in creatures showing, like ourselves, the power of adapting, throughout long periods, concatenated compound actions to concatenated compound impressions.” – H.Spencer

The cerebrum is generally recognized as the chief organ of mind ; and mind, in its ordinary acceptation, means more especially a comparatively intricate co-ordination in time — the consciousness of a creature “looking before and after,” and using past experiences to regulate future conduct. – H.Spencer

————-
“The cerebellum is an organ of doubly-compound co-ordination in space ; while the cerebrum is an organ of doubly-compound co-ordination in time” – H.Spencer

————
“inteligenţă artificială” e o evoluţie a inteligenţei umane, CEREBRUM ARTIFICIAL ce nu posedă “CEREBELLUM” sau “MEDULLA OBLONGATA cu PONS VAROLII +” dar utilizează (în măsura posibilităţilor) informaţiile acumulate de acele ființe umane ce le-au așezat (scris, etc.) într-o formă interpretabilă.

–––-
https://archive.org/details/principlesofpsyc0001spen/page/60/mode/2up

Gindim fară sa fim constienti ? Mie imi pare ca nu gindim deloc . Tot ceea ce asociem gindirii are în urmă secole peste secole de încercari umane care ne-au adus aici si acum .In fapt cu totii suntem doar niste mici plagiatori .Nu facem altceva decit sa încercam si să tot încercam ,la nesfîrsit , trăind doar cu speranta deșartă în care binele invinge răul .In fapt binele si răul sunt exact acelasi lucru .Omul se preface atunci cind ne spune cum el gindeste .Animalul om traieste doar senzorial si afectiv senzorial punînd sentimentele inaintea tuturor lucrurilor .Suntem captivii Planetei Terra ce ne gazduieste o vreme pe aceste meleaguri si atăt .Dacă am fi in stare sa gîndim acum avea in fata noastră Paradisul .Homo homini lupus est .

„A intelege” inseamna a fi mai intai Implicat. „A fi constient” inseamna a fi mai intai Uimit. Inteligenta nu are timp efectiv pentru „trezirea in lume”( nu stim daca o intereseaza acest aspect si nu stim daca ar putea-o face). Constiinta, se pare, ca exact cu asta se ocupa. Performantele atinse de Inteligenta (umana sau artificiala) par ca ar ameninta Constiinta, insa particula de „stupefactie” ramasa neepuizata in procesul de constientizare, o face imuna la provocari „lucrative”. Bineinteles ca ma refer la acea latura a Constiintei care nu reuseste sa te obisnuiasca cu „starea de trezire in lume”. Si chiar daca superinteligentele si-ar extinde granitele pe toata geografia mintii, ramane acel fragment de uluire existentiala pentru care n-o sa exite instrumente de sondare. Pentru ca, pana la urma, e imposibil sa-ti intelegi uimirea ca esti.

Un ?scriitor (semnul de întrebare va fi justificat imediat) canadian născut în Haiti a publicat în Franța un roman de success despre avatarurile unui enigrant haitian.
Ulterior unui sceptici au descoperit ca cel putin o parte din carte este scrisa cu ajutorul inteligentei artificiale. Pentru ca exista și inteligenta artificiala care poate identifica produse ale IA. Editura și autorul apară autenticitatea mărfii (pana la urma despre asta e vorba) cu argumentul ca stilul romanului e carabian. Ei ignora ca IA poate fi comandata sa scrie și în stil malgas, dacă sunt suficiente opere publicare în cultura respectiva. Treaba e recenta și nu știu cum se va transa. O întrebare pe care ar trebui sa ne-o punem (dar mai întâi editurile) este cine are copy right-ul dacă se dovedește ca o opera e scrisa cu AI. ?Autorul sau Claude, Chat GPT, etc?

Modelele AI s-ar putea autoreplica în curând pe dispozitivele casnice conectate la internet, avertizează Anthropic

Anthropic a anunțat luni că modelele de inteligență artificială (AI) de dimensiuni reduse ar putea fi la doar câteva luni distanță de a se autoreplica pe dispozitivele casnice conectate la internet, generând riscul ca rețelele de tip botnet bazate pe AI să se răspândească rapid, să reziste tentativelor de eliminare și chiar să pătrundă în centrele de date pentru a-și accelera expansiunea, transmite Reuters.

Luna trecută, CEO-ul Anthropic, Dario Amodei, a avansat pentru prima dată ideea că, în cursul anului viitor sau chiar mai devreme, AI ar putea prelua controlul asupra ‘întregului internet’ prin intermediul unei ‘rețele botnet persistente’ – un avertisment care a atras atenția și a stârnit îngrijorare în comunitatea de securitate cibernetică.

Rețelele botnet – rețele vaste de dispozitive controlate de operatori malițioși – există încă de la începuturile internetului și continuă să fie prezente și astăzi.

De regulă, o astfel de rețea include dispozitive IoT (Internet of Things) cu securitate precară – precum dispozitivele Android TV, electrocasnicele inteligente și camerele de supraveghere – și este utilizată de hackeri pentru a trimite mesaje spam, a răspândi programe malware sau a sabota companii vizate prin inundarea acestora cu trafic fictiv.

Articolul publicat luni pe blogul Anthropic pare să reprezinte prima încercare de a explica modul în care s-ar putea produce un astfel de scenariu.

Compania a precizat că experimentele sale au demonstrat că un agent AI malițios ar putea cumula puterea de calcul a unor dispozitive ieftine conectate la internet pentru a rula alte modele AI. De asemenea, s-a menționat că modelele au reușit să se replice în cadrul unei rețele de testare simplificate. ‘O astfel de entitate capabilă de replicare ar fi dificil de oprit, întrucât nu există un punct central care să poată fi dezactivat’, a afirmat compania.

Raportul amplifică îngrijorările generale privind riscurile de securitate asociate sistemelor AI tot mai performante, inclusiv potențialul acestora de a automatiza atacurile cibernetice, de a funcționa cu o supraveghere umană limitată și de a eluda mecanismele de protecție.

Progresele înregistrate în dezvoltarea modelelor au generat o serie de avertismente – adesea alarmante – din partea liderilor din industrie și a angajaților companiilor de AI, cu privire la riscurile grave, chiar existențiale, pe care le-ar putea implica o dezvoltare necontrolată a inteligenței artificiale.

Anthropic a precizat că experimentele sale au arătat că modelele cu 30 de miliarde de parametri sau mai puțini pot deja să execute multe dintre sarcinile individuale necesare pentru autoreplicare, deși întâmpină dificultăți în finalizarea cu succes a întregului proces. În cadrul unor teste simplificate, în care au fost eliminate anumite măsuri de securitate, Anthropic a constatat că modelul GLM-5.2 și modelele mai performante erau capabile de replicare integrală (end-to-end).

Anthropic a precizat că, dacă modelele mai mici continuă să evolueze în același ritm ca până acum, acestea ar putea atinge capacitatea necesară pentru replicarea autonomă până la sfârșitul anului 2026.

Un vierme informatic bazat pe inteligență artificială, care rulează pe hardware cu putere de calcul redusă, ar putea avea nevoie de câteva zile pentru a finaliza anumite etape ale procesului de replicare, a menționat Anthropic. Compania a adăugat că o astfel de rețea ar putea continua să se extindă – într-un ritm mai lent decât în cazul anumitor programe malware convenționale – dacă dispozitivele compromise ar infecta un număr suficient de mare de alte echipamente.

Un vierme AI (AI worm) este un tip nou și periculos de malware care folosește inteligența artificială pentru a se răspândi singur prin rețelele de calculatoare, fără să aibă nevoie de intervenție umană. Spre deosebire de viermii informatici clasici, care folosesc cod fix și instrucțiuni stricte, un vierme AI folosește capacitatea de gândire a modelelor mari de limbaj (LLM) pentru a analiza țintele, a genera cod de atac personalizat pe loc și a păcăli sistemele de securitate.

De asemenea, Anthropic a avertizat că sistemele viitoare ar putea viza resurse de calcul mai puternice, inclusiv procesoare din centrele de date, deși experimentele sale nu au demonstrat replicarea autonomă prin intermediul centrelor de date comerciale.

Sursa: https://agerpres.ro/stiinta/2026/10/13/modelele-ai-s-ar-putea-autoreplica-in-curand-pe-dispozitivele-casnice-conectate-la-internet-avertize–1602646

Adaug și o știre pe lângă subiectul articolului, dar nu ma pot abține.
Agențiile de presa difuzează ca schimbările climatice împing familie sărace să-și mărite fetele la 12-13 ani.
Asta pe baza unui raport al unei organizații de caritate numita Plan (primesc de la ei regulat broșuri frumos colorate, deși i-am rugat sa nu mai irosească bani).
Pe de alta parte schimbările climatice duc de asemenea la creșterea prostituției în țările sărace.
Și eu care credeam ca motorul propagandei armaghedonului climatic s-a gripat.

“Când GPT-5.6 Sol a devenit disponibil pr 9 iulie 2026. am testat modelul și am decis să-l „angajez” pe post de scientific librarian și research assistant. În timpul „interviului” de angajare, i-am cerut să comenteze textele mele fără mănuși (gloves off).”

Mă întreb mereu de unde vine dorința asta ireprimabilă de antropomorfizare? Cu ceva vreme în urmă, în timpul verii, aveam nevoie de un aparat – un ventilator mă gândeam eu – un „ceva” care să facă puțină răcoare la mine în casă. Am nimerit într-un magazin on-line specializat în chestii de produs „răcoare” la comandă. Aici m-a întâmpinat plin de amabilitate chat-botul Ben. Ben s-a oferit să-mi îndrume pașii prin magazin astfel ca să găsesc aparatul de produs răcorire cel mai potrivit nevoilor mele. M-am întrebat în gândul meu dacă Ben știa cum e să fii la menopauză. N-am aflat.

Altă dată aveam nevoie de o cremă de față și am nimerit întru-un butic șic dintr-un colț de internet. Aici m-a întâmpinat Julia, o chat-boată foarte amabilă, ce mi-a promis, nici mai mult nici mai puțin,… decât că o să mă facă să „fall in love again with my skin”. Wow, ce m-am bucurat. Ce noroc a dat peste mine, mai ales că biata mea epidermă – pielicica ce o port zilnic – începuse să se încrețească vizibil pe la colțuri.

Ce vrăji ne-au făcut boții ăștia de am ajuns să le dăm nume de oameni? Ce descântece știu aceste „ broscuțe vorbitoare” că ne fac nu numai să le dăm nume de oameni dar și să le atribuim competențe și titluri până de curând rezervate exclusiv oamenilor? „Profesor de literatură engleză” – cum zice Dawkins, sau „scientific librarian și research assistant”, cum zice domnul Crânganu în citatul de mai sus.

Ar fi poate bine să ne aducem aminte că înainte ca Alan Turing să dezvolte faimosul model teoretic al mașinii ce-i poată numele, termenul de „computer” era rezervat în exclusivitate persoanelor – în majoritate femei – ce făceau calcule aritmetice cu creionul pe hârtie de dimineața până seara. Nu e numai vorba de un transfer de termeni lingvistici, dar și de o Inversiune Stranie de Raționament, cum bine zice Dennett. Un computer e doar o “Competență lipsită de Înțelegere”. O competență căreia îi atribuim cu entuziasm voios nume și titluri.

Dar mai ales ce o să facem când, in mod inevitabil, o să ne pierdem prin pădurea tot mai deasă a conversațiilor noastre interminabile? Scoatem „broscuța vorbitoare” din buzunar și o întrebăm care e drumul înapoi la lumină?

Cred că nici conștiința dar nici conștiența nu pot exista fără gândire.
De fapt, ambele sunt roade/rezultate ale gândirii.

Ia sa „lelemesc” ceva pentru biblioteca :)))
https://www.amazon.com/Continental-Drift-Controversy-1/dp/0521875048/ref=sr_1_1?dib=eyJ2IjoiMSJ9.-8RwFOsgYyQXQH0zOkRTjEtEomhHZqfq_itIqyRgcvI.Mo53gCMxH_qhDc8rgetzfdb74_tpztm_iGogzdzJIVQ&dib_tag=se&keywords=9780521875042&linkCode=qs&qid=1791996603&s=books&sr=1-1

https://www.amazon.com/Continental-Drift-Controversy-1/dp/0521875048

Dă-i românului mintea (gândirea? conștiința?) cea de pe urmă…

Pungești, rana pe care România nu a vindecat-o nici după 13 ani… Statul român a ales forța în locul rațiunii

La 13 ani de la protestele de la Pungești, Dumitru Chisăliță critică modul în care autoritățile au gestionat conflictul. Președintele AEI susține că lipsa dialogului și răspândirea informațiilor false au amplificat tensiunile. Într-o analiză publicată miercuri, specialistul avertizează că evenimentele din 2013 au afectat încrederea cetățenilor în instituțiile statului.

În octombrie 2013, localnicii din Pungești, județul Vaslui, au început să protesteze împotriva proiectului companiei americane Chevron, care urma să exploreze zăcămintele de gaze de șist din zonă. Pe 3 octombrie, compania obținuse autorizația pentru construirea primei sonde de explorare. Protestele au început pe 14 octombrie, când peste 100 de localnici au încercat să oprească amenajarea platformei. Oamenii se temeau de contaminarea pânzei freatice și reclamau lipsa unei consultări reale. De asemenea, nu aveau încredere în garanțiile oferite de companie și de autorități.

Două zile mai târziu, pe 16 octombrie, conflictul s-a intensificat. Jandarmii au intervenit pentru a permite accesul utilajelor Chevron, iar între protestatari și forțele de ordine au avut loc confruntări.
…
La 13 ani de la începutul protestelor, președintele asociației AEI consideră că Pungești rămâne un exemplu al consecințelor pe care le poate avea lipsa dialogului dintre instituții și cetățeni.

Pungești nu a dus lipsă de pasiune. A dus lipsă de mediatori. Oameni care să traducă limbajul tehnic. Oameni care să spună „aici e o problemă reală” și „aici e o minciună”. Oameni care să nu fie nici cu bastonul, nici cu panica”

„Pungești nu a fost un accident. A fost rezultatul logic al unui cumul de eșecuri – eșecul comunicării, eșecul educației publice, eșecul instituțiilor de a construi încredere și eșecul societăților de a accepta complexitatea”, spune el.

––––––––-
Eșecurile in serie pe care le descrie ACUM domnul intervievat au fost descrise pe această platformă și în cartea Gazele de șist și fracturarea hidraulică. Între mit și realitate, începând din 2014. „Specialiștii” de astăzi erau inexistenți la vremea aceea.

Domnul care pretinde că a fost la Pungești, fără să spună ce a făcut concret acolo pentru prevenirea eșecurilor post-Pungești, este o ilustrare vivantă a celebrului aforism ionescian:

„Lucrurile nu pot fi prevăzute decât după ce s-au întâmplat.“
EUGÈNE IONESCO, Rinocerii, 1959

A se slăbi.

How much of your life would you hand over to an AI assistant?

Întrebarea de mai sus este deschisă la răspunsuri și schimburi de opinii pe Scientific American.

Am primit și eu următoarea invitație:

AI în viața mea

Cât din viața ta ai încredința unui asistent bazat pe IA? Meta și OpenAI pariază că este o mare parte. Noii lor agenți, Muse și dots, îți pot citi e-mailurile și îți pot cheltui banii, fiind concepuți să ți se pară ca niște prieteni. Am petrecut o săptămână testând aceste instrumente, pe care le-am numit Mark (după Zuckerberg) și Sam (după Altman) [apropo de antropomorfizare, n.m.]. Rezultatul? Deopotrivă util și înfricoșător.

Deși asistenții mei mi-au învățat gusturile muzicale, mi-au anticipat obiceiurile legate de e-mail și au reușit să ducă o negociere dură pe Facebook Marketplace, m-am trezit gândind mai puțin și delegând mai mult pe parcursul săptămânii — uneori cu rezultate mai proaste decât dacă aș fi făcut eu însumi sarcinile respective.
​
AI accesibilă

Agenții AI sunt mai mult decât niște chatboți – au propriul „computer” și pot îndeplini sarcini pentru tine. Deși tehnologia nu este nouă, Muse și dots pun acest tip de serviciu la dispoziția unui public comercial imens, practic fără nicio curbă de învățare. Ambii agenți sunt concepuți să arate ca un schimb de mesaje text cu un prieten: le dai nume și avatare drăgălașe, iar limbajul lor este intenționat mai conversațional decât al unui chatbot tradițional.
​
Ce au făcut

În timpul săptămânii petrecute împreună, Mark și Sam m-au ajutat să negociez cu vânzătorii de pe Facebook Marketplace (acum sunt mândrul proprietar al unei mese de sufragerie găsite prin Muse); să rezerv un camion de la U-Haul; să-mi organizez bugetul; și chiar să găsesc concerte viitoare pe baza contului meu de Spotify. Până la sfârșitul săptămânii, Mark avea acces deplin la e-mailul meu, conturile bancare, rețelele sociale și Spotify. Urmează țipetele de groază ale prietenilor și familiei mele.
​
Ce spun experții

William Overman, un doctorand care studiază siguranța AI la Universitatea Stanford, consideră că acest tip de agenți reprezintă viitorul AI și anticipează că, în cele din urmă, s-ar putea să vedem chiar și versiuni fizice ale acestora. Însă el își exprimă îngrijorarea că, dacă presupunem că acești asistenți sunt atotștiutori și le permitem din ce în ce mai mult să acționeze în numele nostru, ar putea deveni dificil să discernem unde se termină munca noastră și unde începe a lor. „Este o pătrundere tot mai profundă în toate formele de muncă intelectuală”, spune el. „Ceea ce faci tu devine tot mai strâns legat de produsul lor.” —Mary Randolph, stagiară la secția de știri
​
Alătură-te discuției: Ai încercat să folosești un agent de IA? Ce rol ai fi dispus să îi acorzi unui agent în viața ta? Ce fel de sarcini i-ai atribui? Dă clic aici pentru a-ți împărtăși gândurile.

Ce se poate întâmpla când „angajezi” un asistent AI?

Încercam să salvez un proiect de articol de perspectivă după ce două reviste îl respinseseră. Concluzia mea a fost că ideea mea nu era suficientă: proiectul avea nevoie de dovezi. Am decis să folosesc un instrument de inteligență artificială pentru a mă ajuta la generarea de idei.

Studiez hidrologia solului — modul în care apa se deplasează prin soluri și peisaje, influențând eroziunea, creșterea plantelor și refacerea ecologică. Am dorit să investighez refacerea peisajului pe Platoul de loess din China, așa că am solicitat chatbot-ului ChatGPT de la OpenAI să mă ajute să-mi regândesc perspectiva sub forma unui studiu bazat pe date.

Timp de câteva ore, ChatGPT a făcut exact ceea ce mă așteptam. A căutat online articole științifice relevante și a analizat articolele și fișierele preliminare pe care i le-am furnizat pentru a mă ajuta să elaborez un plan de cercetare. A constatat că alte echipe documentaseră deja unele schimbări legate de apă și sedimente pe care eu le consideram noi, ceea ce m-a obligat să-mi restrâng obiectivele. Chatbotul mi-a oferit, de asemenea, recomandări cu privire la datele pe care să le includ în modelarea mea și la modul optim de a integra valorile de referință statistice publicate.

Apoi, proiectul a întâmpinat o dificultate. Aveam nevoie de hărți și date publicate, dar întâmpinam dificultăți în a le obține. Iar în unele cazuri, aveam nevoie de metadate suplimentare. ChatGPT a identificat echipele din spatele mai multor seturi de date relevante pentru munca mea și a redactat solicitări personalizate pentru anumiți cercetători, în vederea obținerii informațiilor de care aveam nevoie. Am continuat să răspund chatbotului cu „Te rog, continuă” în chineză. Pentru mine, asta însemna continuarea proceselor de căutare și analiză pe care le desfășurase până atunci. Însă nu definisem în mod explicit limitele acelei instrucțiuni. Eram impresionat de viteza cu care modelul putea finaliza sarcinile și, privind în retrospectivă, încetasem să mai pun suficiente întrebări despre ce implicau pașii planificați de chatbot.

––––––
Restul articolului, publicat în Nature pe 12 octombrie 2026, poate fi citit aici:
I told ChatGPT to ‘continue’ — it went too far

Oare declinul lecturii de cărți marchează sfârșitul gândirii raționale?
Smartphone-urile și inteligența artificială ne subminează capacitatea de a urmări un raționament complex, ceea ce are consecințe grave.
Nature, 12 octombrie 2026

O întrebare foarte importantă, pe care o consider parte integrată a eseului meu. De ce?

Comentând cartea lui James Marriott, The New Dark Ages, David Adam discută ipoteza că smartphone-urile și, din ce în ce mai mult, inteligența artificială erodează capacitatea noastră de a urmări argumente complexe și de a practica lectura profundă. Întrebarea din Nature poate fi reformulată în termenii celor două săgeți discutate în eseul meu: ce se întâmplă dacă, pe măsură ce AI avansează spectaculos pe „săgeata exterioară” — reprezentare, inferență, sinteză, argumentare — omul începe să-i externalizeze tocmai exercițiile cognitive prin care și-a dezvoltat propria săgeată exterioară?

Paradoxul ar fi remarcabil: mașina ar putea deveni tot mai competentă fără să dobândească o „viață interioară”, în timp ce omul, posesor incontestabil al acesteia, și-ar putea atrofia unele dintre competențele care au făcut posibilă gândirea rațională.

Ironică sau paradoxală, mi se pare a fi următoare situație: În timp ce discutăm dacă mașina dobândește gândire, există primele indicii că omul riscă să-i cedeze o parte din propria gândire.

Ultimul număr al revistei Dilema (joi, 15 octombrie 2026) publică un dosar cu diverse păreri despre AI.

Textele respective (șase la număr) sunt scrise din perspectiva propriilor domenii ale autorilor: literatură, muzică, film, filosofie a culturii, istorie. Nu veți găsi amănunte profesionale despre LLM-uri, neuroștiința conștiinței sau științele cognitive experimentale.

Invit pe cei interesați să remarce modul în care autorii din Dilema par să avanseze foarte mult pe traiectoria pe care am numit-o „săgeata exterioară” (reprezentare, predicție, integrare, generalizare, acțiune) fără să facă vreun pas pe cea de-a doua traiectorie – „săgeata interioară” (fenomenologică).

Saint‑Exupéry spunea că iubirea înseamnă a privi împreună în aceeași direcție. Autorii din Dilema și eu privim aceeași frontieră din direcții diferite.

Unul dintre cele mai bune eseuri pe care le-am citit după publicarea propriului meu text:

How to be more ambitious: A tutorial for humans with models

Relevanța eseului citat este este accentuată de poziția autorului: Felix Rieseberg este Engineering Manager la Anthropic și spune că a condus proiecte de inginerie pentru Claude.ai, Cowork și Claude Code Desktop. El începe foarte direct: „I work on Claude” și spune că este surprins aproape zilnic de lucruri realizate cu sau de Claude pe care el însuși nu le anticipase.

Ideea centrală, expusă parțial în titlu, este că oamenii folosesc LLM-urile prea modest. Rieseberg împarte „ambiția” în patru dimensiuni: Speed, Altitude, Depth și Range (invit cititorii interesanți să descopere detaliile celor patru dimensiuni ale folositii LLM-urilot).

Personal, am fost interesat de un alt aspect: cum pot fi integrate/relaționate ideile mele în eseul lui Rieseberg. Două posibilități sunt interesante:

Prima: pe măsură ce modelele devin mai capabile, ele pot opera la niveluri tot mai înalte de abstractizare. Rieseberg descrie propria evoluție de la „repară acest crash” la „menține aplicațiile fără crash-uri” și observă că, în unele fluxuri de lucru stabile, omul poate deveni mai puțin necesar pentru formularea continuă a sarcinilor individuale. Aceasta este aproape o definiție practică a deplasării de-a lungul „săgeții exterioare”: de la execuție punctuală la integrarea informației, alegerea subproblemelor și urmărirea unui obiectiv mai abstract.

A doua posibilitate este poate chiar mai importantă decât prima: Rieseberg avertizează să nu cerem modelului să se evalueze singur (eu am făcut acest tip de experiment). Pentru sarcini complese, este esențial controlul post-simulare prin unul sau mai multe tipuri de validare externă: experiment, test, instrument sau alt criteriu independent care să arate că rezultatul este corect. Consider că poziția aceasta coincide aproape perfect cu felul în care am descris folosirea LLM-ului ca „scientific librarian” și „research assistant”: un instrument cognitiv ale cărui rezultate trebuie confruntate cu sursele și cu realitatea.

În final, aș mai face o menționare a conceptului de cognitive surrender, pe care l-am introdus într-un comentariu anterior. Rieseberg spune concret: nu folosi AI doar pentru a face mai repede ceea ce făceai deja; lasă-l să facă lucruri mai ambițioase decât ai fi încercat singur. Cercetările despre cognitive surrender avertizează însă că externalizarea procesului de raționament poate reduce ceea ce învață omul. Cele două perspective nu se contrazic, ci definesc o problemă viitoare: cum mărim ambiția omului cu ajutorul AI fără să diminuăm exercițiul cognitiv al omului?

Codurile ascunse de mult timp ale istoriei sunt descifrate de amatori cu ajutorul inteligenței artificiale
Căsuțele de e-mail ale criptografilor sunt inundate cu cereri de validare a soluțiilor de descifrare.
Nature, 16 octombrie 2026

Fără a fi un studiu peer-reviewed, articolul recent din Nature, demonstrează, din punctul meu de vedere, cât de repede se prelungește „săgeata exterioară” a AI. Cele două exemple prezentate sunt edificatoare.

Primul se referă la un utilizator fără experiență în criptografie care i-a cerut modelului GPT-6 Astra să aleagă și să rezolve un mesaj Enigma rămas nedescifrat timp de decenii. După ce „asistentul științific” a cercetat arhive istorice, a identificat un posibil crib (adică un fragment probabil al textului original folosit pentru restrângerea spațiului de căutare), „el” și-a construit propriul simulator Enigma, a scris programele necesare și a testat miliarde de configurații până la obținerea unei soluții, confirmată ulterior de un criptolog uman.

Un al doilea cifru, datând din epoca napoleoniană, a fost rezolvat de „asistentul științific” folosind o combinație de cercetare documentară, recunoaștere vizuală și „simulated annealing”.

Din perspectiva eseului meu, niciuna dintre cele două performanțe nu demonstrează per se existența unei „săgeți interioare”, dar ele fac tot mai greu de susținut ideea că sistemele AI realizează doar o simplă imitare verbală. Pe de altă parte, numeroasele soluții false trimise specialiștilor confirmă o regulă esențială: creșterea competenței AI nu elimină necesitatea verificării independente.

OFF TOPIC

17 OCTOMBRIE – O ZI MEMORABILĂ ÎN ISTORIA CATASTRAOFELOR METEOROLOGICE

Înainte de apariția smartphone-urilor, a rețelelor sociale și înainte ca fiecare furtună să fie considerată o urgență climatică, natura provoca deja ravagii.

🌀 1780 (9–20 octombrie): Marele uragan din 1780, cel mai mortal uragan din Atlantic înregistrat vreodată, a ucis aproximativ 22.000 de oameni în întreaga regiune a Caraibelor.

🌀 1910 (17–18 octombrie): Un uragan de categoria 4 a lovit arhipelagul Florida Keys, provocând un val de furtună de 8 picioare (2,4 metri) la Key West.

🌀 1950 (17–18 octombrie): Uraganul King a lovit Miami cu vânturi devastatoare și a provocat distrugeri pe scară largă.

🌪️ 1971 (17 octombrie): O tornadă a măturat localitatea Wray, din Colorado, rănind nouă persoane.

❄️ 1984 (17–19 octombrie): O furtună de zăpadă istorică în Utah a adus 18,4 in de zăpadă în Salt Lake City și aproximativ 40 de in la Alta.

🌊 1998 (17–21 octombrie): Inundații catastrofale au lovit centrul Texasului, cu precipitații care au depășit 15 in în unele zone și zeci de victime.

Uragane. Tornade. Furtuni de zăpadă. Inundații catastrofale.

Toate fac parte din istoria noastră meteorologică, cu mult înainte de știrile climatice de astăzi.

Fenomenele meteorologice severe nu sunt o noutate. Amnezia meteorologică este.

EVENIMENTE REALE. ISTORIE REALĂ. UN REMEDIU ZILNIC PENTRU AMNEZIA METEOROLOGICĂ.

Sursa

Ideea aceasta provine de la IA sau de la oameni? Un detector susține că poate face diferența
Un instrument numit IdeaLens ajută la stabilirea dacă conceptele — și nu doar textul — din articolele științifice sunt generate de AI.
Nature, 14 octombrie 2026

Cercetătorii au dezvoltat un detector care își propune să facă diferența între ideile create de oameni și cele generate de inteligența artificială.

Folosit cu prudență, IdeaLens ar putea ajuta la evaluarea gradului de utilizare a AI în lucrările trimise la conferințe și reviste științifice, care au devenit „copleșite” de conținut generat artificial, spune Rishanth Rajendhran, informatician la Universitatea din Maryland din College Park și coautor al preprintului care descrie IdeaLens.

Utilizarea IA pentru redactarea articolelor științifice devine din ce în ce mai acceptabilă, dar numai „atâta timp cât ideea centrală” este a cercetătorului, spune el.

Este acceptabil ca IA să scrie articole științifice? Un sondaj realizat de Nature arată că cercetătorii sunt împărțiți

Detectorul funcționează prin analizarea „schemei” unei lucrări, mai degrabă decât a textului în sine. Mai întâi, acesta sintetizează un text — de exemplu, un articol științific — într-o schemă, eliminând elementele de stil. Apoi, caută tipare caracteristice ideilor generate fie de AI, fie de oameni, cum ar fi cele din argumente și din fluxul textului.

Detectorul a reușit să identifice ideile derivate din AI în 91% din cazuri. „M-a surprins faptul că pot detecta argumente scrise de IA” doar pe baza schițelor, spune Nikhil Garg, informatician la Cornell Tech din New York, care consideră detectorul impresionant.

Garg avertizează că, deoarece instrumentul este supus erorilor, acesta nu ar trebui folosit pentru a judeca autenticitatea umană a cazurilor individuale și că detectorul ar putea deveni inexact atunci când este utilizat pe tipuri de date diferite de cele folosite în procesul de antrenare. „Un «semn» al AI într-un domeniu poate fi pur și simplu o scriere umană de calitate într-un altul”, spune el.

–––––––––––––
Până acum întrebam dacă AI poate scrie. Apoi am întrebat dacă poate raționa. IdeaLens ne obligă să întrebăm dacă AI poate avea „idei” într-un sens funcțional, chiar dacă nu avem niciun motiv să credem că „simte” cum este să-ți vină o idee. Grea misie…

Domnule profesor,

Întrebările ridicate de dumneavoastră în acest eseu sunt extrem de serioase și importante și din acest motiv cred că merită un răspuns pe măsură de serios.

Pentru a menține acest comentariu în limite rezonabile am să încerc să răspund doar la câteva din chestiunile pe care le consider cheie. Cred că aceste puncte cheie ne oferă o clarificare conceptuală – ce ne dă încredere în două sensuri. Primul, e că vorbim despre același lucru. Când folosim un cuvânt ne referim amândoi la același concept sau categorie. Această punere de acord asupra termenilor o consider absolut necesară și ne dă încredere în al doilea sens, anume că putem progresa împreună spre găsirea unui adevăr comun. Am să încep comentariul meu cu un motto:

“All scientists are philosophers. That is, they hold fundamental assumptions about the nature of reality and how best to develop “true” (i.e., justified) knowledge about it. The way a scientist goes about building justified knowledge reveals what they take reality to be. Their assumptions guide their scientific practices and products — their choices of topics to study, their formulation and testing of hypotheses, and ultimately, the inferences they offer as claims of knowledge. Other scientists, guided by their own philosophical assumptions, turn those claims into bona-fide knowledge by using them and citing them. Or not.”
What’s Real? A Philosophy of Science for Social Psychology
Lisa Feldman Barrett & Jordan Theriault

Deci, dacă sunteți de acord – și bănuiesc că sunteți – cu premisa din acest citat, că toți oamenii de știință sunt și filozofi, aș vrea să pornim la discutarea aspectelor filozofice a celor „două săgeți” interioară și exterioară ce le-ați propus ca bază al discuției despre modelele mari de limbaj (LLM-uri).

Am să încep cu câteva idei ale lui Daniel Dennett. Pe Dennett l-ați menționat deja în eseu în legătură cu „iluzia teatrului cartezian”.

Voi începe cu trei concepte, sau mai bine zis perspective, sau moduri de a privi lucrurile – introduse de Dennett – ce le găsesc fundamentale pentru această discuție. Cele trei perspective (stances) au fost explicate de Dennett în teoria sa a sistemelor intenționale. Și anume: perspectiva fizică, perspectiva bazată pe design și perspectiva intențională. Aceste trei perspective reprezintă trei niveluri diferite de abstractizare – sau strategii – pe care oamenii le folosesc pentru a explica, interpreta și prezice comportamentul unui obiect, organism sau mașină.

Perspectiva fizică explică și prezice comportamentul unui sistem analizând compoziția sa fizică, proprietățile materialelor și folosind legile fizicii și chimiei. Abordarea din perspectivă fizică dă rezultate optime pentru studiul obiectelor fizice brute sau a forțelor naturale (cum ar fi vremea, seismele, mișcarea planetelor, etc ), unde este nevoie de o precizie fizică de nivel înalt. De obicei, este prea complexă și lentă pentru predicții practice ale comportamentul unui animal, unui computer, sau AI, sau ale unui om. O analiză a compoziției chimice un tigru nu numai că nu e folositoare dar e și practic imposibilă.

A doua perspectivă, cea bazată pe design – explică și prezice comportamentul presupunând că obiectul a fost proiectat sau construit pentru a îndeplini o funcție sau un scop specific. Adoptând această perspectivă se face prin ignorarea detaliilor, a fizicii complexe care stă la baza obiectului de studiu. În schimb, presupunem că sistemul funcționează așa cum ar trebui să funcționeze, conform designului pe care a fost construit, sau istoriei sale evolutive, sau proiectării sale. E un zoom-out de la nivelul demonului lui Lagrange la nivelul părților componente și arhitecturii, a mecanismelor de funcționare, a „rotițelor”.

Perspectiva intențională explică și prezice comportamentul tratând sistemul ca pe un agent rațional care posedă convingeri și dorințe. Apoi, plecând de la aceste dorințe și credințe, deducem ce acțiuni va întreprinde în mod logic pentru a-și atinge obiectivele. Pașii sunt următorii:
1. Decidem să tratăm obiectul ca pe un agent rațional.
2. Stabilim ce convingeri ar trebui să aibă pe baza mediului său.
3. Stabilim ce dorințe sau obiective ar trebui să aibă.
4. Prezicem că va acționa rațional pentru a-și satisface acele dorințe folosindu-și convingerile.

De exemplu. Când joci șah împotriva unui program de calculator te gândești: „Vrea să-mi ia tura, așa că își va muta nebunul aici”, nu te gândești la circuite, procesoare și tranzistori. Eviți un tigru pentru că presupui că vrea să supraviețuiască și crede că arăți ca o pradă, mai degrabă decât din considerente de anatomie sau design.

Perspectiva intențională e cea mai potrivită pentru sisteme complexe precum oamenii, animalele sau AI-urile, în cazul cărora calcularea detaliilor fizice sau aspectelor de design este imposibilă. Dennett consideră convingerile și dorințele, în acest context, mai degrabă o scurtătură utilă, o euristică, decât elemente fizice literale din interiorul creierului.

Astfel prin „antropomorfizări” în care atribuim acestor sisteme credințe și dorințe; prin zoom-out – și folosind termeni cum ar fi: „calculează”, „caută”, „detectează” „spune” „vrea” (să-mi ia tura și regina) – devin nu numai inevitabili, dar absolut necesari. It’s not a bug, it’s a feature. În această privință am văzut că sunteți de acord.

După această introducere să vedem ce decurge de aici in raport cu AI-uri și LLM-uri

Dennett a susținut că perspectiva intențională reprezintă cea mai practică și eficientă modalitate de a interacționa cu Inteligența Artificială (IA) și de a o anticipa, inclusiv în cazul modelelor lingvistice de mari dimensiuni (LLM), chiar dacă aceste sisteme nu posedă o conștiință asemănătoare celei umane sau o înțelegere „reală”.

Pentru Dennett, tratarea unei IA ca pe un agent cu convingeri, obiective și intenții nu este o greșeală — ci o strategie predictivă extrem de eficientă.

Iată cum aplică Dennett cele trei abordări în mod specific la AI-uri și LLM-uri:

1. Perspectiva fizică (nivelul siliciului și al electricității). Acesta este domeniul inginerilor de hardware. Ea privește IA pur și simplu ca pe un curent electric care circulă prin tranzistoare de siliciu, porți logice și rafturi de servere.
De ce este nepractică? Dacă doriți să știți ce va răspunde un LLM la o solicitare, analizarea simultană a stării fizice a milioane de microcipuri este imposibilă din punct de vedere computațional pentru un om. Această abordare oferă o precizie perfectă în ceea ce privește legile fizicii, dar nicio perspectivă practică asupra „comportamentului” IA.

2. Perspectiva de design (nivelul codului, arhitecturii și nivelul ponderilor). Acesta este domeniul inginerilor de software și al cercetătorilor în învățarea automată. Abordează LLM-urile prin prisma planului lor de proiectare: o arhitectură de tip transformator, miliarde de parametri numerici (ponderi), token-uri și distribuții de probabilitate.

Dar perspectiva bazată pe design e impracticabilă pentru utilizatorii. De ce? Când adresezi o solicitare (un promt) unui model de limbaj mare (LLM), îi ceri să proceseze niște matrici uriașe de numere pe baza antrenamentului său anterior. Deși un dezvoltator poate explica cum funcționează arhitectura în general, acesta nu poate analiza în timp real matricea de 175 de miliarde de parametri și nu poate prezice cu exactitate următorul cuvânt pe care modelul îl va genera. Abordarea prin design este pur și simplu prea complexă pentru interacțiunea de zi cu zi cu astfel de agenți.

3. Abordarea intențională (nivelul conversațional). Ăsta e nivelul la care interacționează utilizatorii obișnuiți — și adesea dezvoltatorii — cu IA. Spunem lucruri precum: „IA crede că îi cer o rețetă”, „Vrea să ajute” sau „Știe franceză”.

De ce o folosim? Pentru că funcționează perfect ca o scurtătură predictivă (euristică). Presupunând că IA acționează ca un agent rațional care „înțelege” obiectivul tău și deține „cunoștințe” despre lume, poți prezice cu succes cum va răspunde la solicitarea ta.

În sumar vreau doar să enunț doar două dintre ideile cheie ale lui Dennett privind IA și modelele lingvistice mari (LLM)

1. Competență fără înțelegere. Dennett a folosit frecvent IA pentru a demonstra una dintre ideile sale filosofice fundamentale: un sistem poate fi incredibil de competent fără a avea vreo înțelegere. Un LLM poate scrie cod Python impecabil sau un eseu frumos (competență ridicată) fără a avea o minte conștientă sau o experiență internă a ceea ce înseamnă codul sau eseurile (înțelegere zero).

2. Natura „ca și cum” (as-if) a intenționalității. Criticii spun adesea că modelele LLM nu au cu adevărat convingeri; ele doar prezic textul. Răspunsul lui Dennett este că acest lucru nu contează. În filosofia sa, dacă tratarea unui sistem ca și cum ar avea convingeri și dorințe prezice perfect comportamentul său, atunci acesta are efectiv intenționalitate în singurul mod care contează.

Creierele umane, susținea Dennett, sunt doar versiuni biologice ale acestui lucru — mașini de predicție extrem de complexe.

Acestea mi se par premise fundamentale și ideile cheie de la care trebuie să pornim orice discuție despre AI-uri și LLM-uri.

Filosofia lui Daniel Dennett sugerează cu tărie că conștiința umană este, din punct de vedere structural, foarte asemănătoare cu o versiune biologică extrem de avansată a unui model lingvistic de mari dimensiuni (LLM). Dennett, care a decedat în 2024, a trăit suficient de mult pentru a asista la apariția ChatGPT. Spre deosebire de mulți filosofi care susțineau că modelele LLM demonstrează cât de diferite sunt mașinile de oameni, Dennett a susținut exact contrariul: modelele LLM arată cât de mecanică și algoritmică este, de fapt, gândirea umană. (un exemplu perfect de „inversiune stranie”)

Dennett vedea legătura dintre conștiința umană și modelele LLM astfel:

Creierul e văzut ca „mașină joyceană” (ce se ocupă de generarea internă de text). Însă generarea de text e doar un rol secundar, care contribuie la rolul principal al creierului ce e asigurarea supraviețuirii organismului uman.

Cu mult înainte de apariția modelelor LLM, în cartea sa din 1991, *Consciousness Explained*, – carte în care discută în extenso și „iluzia teatrului cartezian” pe cate ați menționat-o deja – Dennett a propus ideea că conștiința umană este o „mașină joyceană” (numită astfel după scriitorul James Joyce).

El a susținut că ceea ce numim „fluxul conștiinței” (the stream of consciousness) — monologul interior care se derulează în mintea noastră — este un flux continuu de cuvinte generat de creierul nostru biologic pentru a ne controla propriul comportament.

La fel cum un LLM generează text – token cu token – pe baza contextului și a probabilității statistice, Dennett a susținut că creierul nostru generează gânduri pe baza antrenamentului nostru biologic, a experiențelor trecute și a stimulilor senzoriali. Nu există niciun „suflet” sau „magie” în interior; creierul este un generator biologic extrem de sofisticat de text și acțiune. Dennett nu a negat nici o clipă că rolul principal al creierului este menținerea în viață a corpului biologic– atât la oameni cât și la toate animalele aflate în posesia unui creier. Dar oamenii, odată ce învață limba maternă, dobândesc în plus această „mașină joyceană” ce le primite să genereze – în vorbire și scris, dar și în monologul interior – acest „stream of consciousness”.

Oamenii și LLM-urile sunt „mașini de predicție”. Dennett a susținut teoria neuroștiințifică a procesării predictive (sau a creierului predictiv). Modelele LLM funcționează prin prezicerea următorului cuvânt cel mai probabil din punct de vedere statistic, pe baza unor seturi de date uriașe aflate în corpusurile lingvistice pe baza cărora sunt antrenate.

Creierul uman, potrivit lui Dennett, este, de asemenea, un motor gigant de predicție. Sistemul vizual nu se limitează la a înregistra ceea ce vezi; el prezice ceea ce urmează să vezi pe baza datelor anterioare și se corectează doar atunci când apare o eroare.

Pentru Dennett, conștiința umană este pur și simplu stratul narativ de nivel înalt al acestui motor de predicție uriaș. E competența fără înțelegere am menționat-o deja și într-un comentariu anterior. Dar e important să mai adaug câteva detalii și precizări.

O critică majoră adusă modelelor LLM este că acestea au „competență fără înțelegere” — pot scrie software sau eseuri briliante fără a „înțelege” de fapt ceea ce spun. Majoritatea filosofilor susțin că acest lucru dovedește că oamenii sunt „speciali”, deoarece noi avem o înțelegere adevărată (intenționalitate). Și aici, acești filozofi, se lansează într-o adevărată competiție, în care fiecare vine cu cele mai sofisticate epicicluri.

La fel cum gânditorii și astronomii din antichitate desenau epicicluri, filozofia modernă a minții a produs un număr impresionant de astfel de „epicicluri” . Ca ale lui Ned Block, care le-ați preluat sub forma celor două săgeți (internă și externă). Sau Gulio Tononi, cu IIT (Integrated Information Theory) de care ați amintit în treacăt în eseu. Sau Thomas Nagel cu întrebare lui faimoasa – Cum e să fi un liliac? Sau David Chalmers cu „The Hard Problem of Consciousness” și „ Philosofical Zombies”. Lista e lungă.

Într-un final lumea a admis că pământul nu e în centrul universului. La un moment probabil toți acești filozofi vor fi nevoiți să admită că inteligența umană nu e singura formă de inteligență.

În ce privește „problema grea a conștiinței” Dennett a fost acuzat că nu o rezolvă ci o dizolvă. Unii comentatori i-au sugerat cu nedisimulată ironie să-și redenumească cartea din *Consciousness Explained*, în *Consciousness Explained Away*, Ha, ha,… but sorry is not funny, bășcălia, oricât de inspirată nu ține loc de argument.

Dennett a respins aceste idei. El a susținut că înțelegerea umană este doar o grămadă uriașă de competențe mai mici, care nu implică înțelegere. Neuronii mei nu înțeleg limba română sau engleză; celulele mele cerebrale nu știu ce este iubirea sau matematica. Ele sunt doar comutatoare biologice minuscule, care nu gândesc. Dacă pui laolaltă suficiente astfel de părți care nu înțeleg, obții iluzia unei „înțelegeri” unificate și conștiente. Modelele LLM demonstrează că o inteligență impresionantă poate apărea exclusiv din competență statistică.

Există totuși diferențe esențiale între oameni și LLM-uri?

Deși Dennett considera conștiința umană ca fiind similară din punct de vedere conceptual cu un LLM, el nu a afirmat că acestea ar fi exact la fel în prezent. El a subliniat câteva deosebiri evolutive cruciale:

Supraviețuirea – ce ne pune, ad-literam, „pielea în joc” – obligă corpurile omenești să păstreze legătura continuă și permanentă cu realitatea. LLM-urile sunt programe software fără corp, antrenate pe text. Lor nu le pasă dacă sunt oprite, deoarece nu au un instinct biologic de supraviețuire.

Creierul uman a evoluat pentru a menține în viață un corp fizic. Rolul principal al creierului – rol căruia i-se alocă majoritatea resurselor neuronale – e să mențină corpul în viață. Cuvintele și gândurile noastre sunt strâns „legate” de supraviețuirea fizică, de foame, de durere și de reproducere, ceea ce ne modelează conștiința într-un mod pe care un LLM nu îl poate experimenta în prezent.

Și mai e și „Problema „utilizatorului””. Un LLM generează text doar atunci când este solicitat (e promptuit) de un utilizator uman. Conștiința umană, a remarcat Dennett, se auto-solicită (self-prompting). Dorințele noastre interne și schimbările din mediul înconjurător ne obligă constant să ne auto-solicităm, menținând bucla conștiinței noastre în funcțiune la nesfârșit.

Pentru Dennett, eu-ul, sinele, self-ul nu e un spirit magic care locuiește într-un corp. E o mașinărie biologică. Conștiința umană nu este fundamental diferită, ca natură, de un LLM; este doar mult mai complexă, profund înrădăcinată în corp (deeply embodied), se auto-stimulează (self-prompting) și este condusă de milioane de ani de supraviețuire biologică.

Ar mai fi de discutat despre proprietățile auto-generative ale limbajelor umane – a tuturor limbilor vorbite – proprietăți „încrustate” în corpusul lingvistic. Această discuție am s-o las poate pentru altă dată pentru că e deja un comentariu foarte lung.

Off topic ori poate nu?

„Trecutu-i fost prezent.
Prezentu-i fost viitor.
Viitoru-i fost trecut.
Ce n-a fost încă fost, va fi.”
Michael Astner

Articol de pe WSJ.
https://www.wsj.com/arts-culture/books/in-search-of-now-review-time-out-of-mind-2e33a184?mod=science_feat5_physics_pos4

‘In Search of Now’ Review: Blurring Forever and a Day
Our understanding of time as a one-directional flow of moments is central to how we perceive the world. It may also be an illusion.

When is the stock market like an acid trip? The answer may begin not with economics or pharmacology but with physics.

As Jo Marchant reminds us in “In Search of Now,” her fascinating and wide-ranging investigation into how the human brain registers time, different observers can perceive time proceeding at different rates. If a space crew lifted off in January, flew to the edge of the solar system at 99% the speed of light and returned in August, then for them only a month would have passed. This phenomenon has been observed and measured, though at far slower speeds and with correspondingly smaller shifts in time. But why does time flow at all, making everyone’s present moment recede into their past? Many physicists have come to regard the flow of time as mental rather than physical. They picture the four-dimensional universe as analogous to a long, solid block, with the big bang at one end and a predetermined future at the other. Successive slices through the unchanging block are what we interpret as an ever-moving present.

Pursuing this psychological view, Ms. Marchant, a science journalist and the author of “Cure: A Journey Into the Science of Mind Over Body” (2016), examines the case of a stroke patient she pseudonymously calls Lara who has lost her ability to perceive movement. Trying to pour tea, Lara finds that “her beverage formed a static, suspended column, stretching from spout to cup.” The condition is called akinetopsia, and it has left Lara “marooned in a world of frozen moments.” Being among moving people is distressing since they “appear unpredictably in different places.” Lara still has a sense of time; what she lacks is a way of stitching moments smoothly together. Ms. Marchant also tells us about a man—whom she calls Anton—who has schizophrenia and describes himself as being “blind to time.” Anton says he feels as if he is disconnected from his body and is controlling it artificially. Tests show that, in comparison with people without schizophrenia, Anton has a reduced ability to predict imminent events, such as where a dot is about to appear on a screen.

Cases such as Lara’s and Anton’s offer us clues as to how our brains function. At every moment we are unconsciously making inferences about what will happen next and responding accordingly. This constant prediction, variation and adjustment underpins our sense of time, of selfhood and perhaps of reality itself. As Ms. Marchant writes, “what we perceive isn’t a transparent window onto the world but the brain’s prediction, based on past experience, for the most likely cause of sensory signals we receive.” Babies and infants gradually acquire knowledge of their surroundings, enabling them to create mental models covering different activities over progressively longer timescales. This evolutionary trait is essential to our survival, though “the flipside is that by definition we also become less flexible.”
A damping of this neural mechanism might explain the hallucinatory effects of drugs such as psilocybin or LSD. Ms. Marchant quotes Aldous Huxley, who said of his own psychedelic experiences that they were like a return to the “perceptual innocence of childhood.” In experiments conducted in the 1930s at London’s Maudsley Hospital, volunteers given mescaline showed an altered awareness of time. In another study, Ms. Marchant tells us, volunteer musicians who used psilocybin reported that “music lost its meaning, with no progression from one note to the next.”

Drawing on insights from computer science, two neuroscientists, Rajesh Rao and Dana Ballard, suggested in 1999 that our brains’ predictive processes may involve something known as Bayesian inference. It’s a way of mathematically estimating the probability of an outcome based on partial knowledge of a situation, and could be how we learn to favor some mental models over others. Knowing what our food should taste like, or how to play a good tennis shot, would be the result of what are effectively calculations performed by our neurons as they react to sensory inputs, initiate bodily responses and monitor consequences.
This is where the brain begins to resemble a stock market. In both cases there are a huge number of components subject to multiple influences; the resulting behavior could be orderly and predictable or totally chaotic. The tipping point between order and chaos, called criticality, is where the behavior is at its most complex, with small fluctuations potentially creating dramatic large-scale shifts, as in stock-market crashes. Scans of electrical brain activity suggest that most people operate well below criticality, but volunteers given LSD were found to come close. While most of us manage well enough with relatively inflexible neural models of a generally predictable world, the acid tripper’s brain is let loose.

Do we simply model reality, or could it be that our mental models are reality? For many researchers this is a step too far, but it links back to physics. A paradox of quantum mechanics, known as Schrödinger’s cat, concerns a box in a laboratory containing a cat and a radioactive sample. Theory suggests that the cat should remain a mixture of two potential outcomes—alive and dead—until someone opens the box. What about another person outside the lab? From their perspective, is there a mixture of happy researcher inside holding a live cat and a sad one with a corpse?

One answer comes from Qbism (pronounced “cubism”). Short for quantum Bayesianism, it involves the same kind of probabilistic inferences that brain researchers are interested in. Qbists think the universe is a matter of perspective even at the most fundamental level; there is no single, objective moment when the cat’s fate is determined everywhere.

Ms. Marchant welcomes this conception as an alternative to the block universe. The future need not be predetermined; perhaps our every moment is a new creation.
Not everyone will share her optimism, but her thought-provoking book is a rewarding delve into the mysteries of time and consciousness.

La câteva zile după publicarea acestui eseu, doi dintre autorii citați de mine (Ned Block și Giulio Tononi), împreună cu Anil K. Seth, au publicat un comentariu în revista Nature:

Three reasons why AI is not conscious and perhaps never will be
Large language models can mimic thought and feeling with uncanny skill. But evidence from neuroscience suggests that intelligence alone is not enough for subjective experience.

În versiunea finală a eseului meu, destinată unei viitoare cărți despre AI, voi comenta cele trei argumente, indicând modurile specifice în care acestea sunt afine cu conceptul celor două săgeți. Până atunci, aș face o singură remarcă pe marginea recentului articol din Nature:

Marea surpriză a AI s-ar putea să nu fie apariția conștiinței în mașina care gândește în întuneric, ci demonstrația că o parte mult mai mare decât credeam din ceea ce numim inteligență poate exista fără conștiință.