Home » Educatie »Media / Tech » Citesti:

Inteligența artificială ca o Lebădă Neagră și impactul asupra viitorului

Constantin Crânganu octombrie 27, 2017 Educatie, Media / Tech
66 comentarii 7,568 Vizualizari

Cu puține zile în urmă, revista Nature a publicat o știre senzațională[1]: cercetătorii de la Google Deep Mind au creat un program de inteligență artificială (AI) numit AlphaGo Zero, care a învățat tabula rasa, fără să cunoască nici o mutare umană, cel mai complex joc strategic – Go, atingând un nivel de perfecțiune supra-omenească.

Abilitatea de auto-învățare, fără supraveghere și antrenament uman, reprezintă un moment crucial în revoluția AI: crearea unei inteligențe artificiale generale, care să execute orice activitate umană.

Computerele anterioare pentru jocul Go, produse de aceeași companie, începeau să se antreneze folosind peste 100.000 partide jucare de experți. Noul program, AlphaGo Zero, începe tabula rasa, utilizând mutări aleatorii, și învață jucând împotriva lui însuși. După 40 zile de antrenament și 30 milioane partide jucate, AlphaGo Zero a reușit să învingă categoric, cu scorul de 100 – 0, pe cel mai bun program existent – AlphaGo Master, care, anul trecut, marcase un eveniment fără precedent – victoria asupra campionului lumii la Go, sud-coreeanul Lee Sedoi. Mai mult, pe parcursul celor 100 de partide câștigate, noul algoritm a produs strategii pe care jucătorii umani încă nu le-au inventat, deși Go se joacă de mii de ani.

Faptul că o inteligența artificială a reușit într-un timp extrem de scurt să depășească masiv o altă inteligență, deja super umană, m-a umplut de uimire și mi-a inspirat o idee tare:

Este inteligența artificială o nouă Lebădă Neagră? Dacă da, ce viitor ne așteaptă pe noi, oamenii?

Pentru un răspuns adecvat, să revedem pe scurt istorie Lebedei Negre.

În celebra sa carte[2] din 2007, Nassim Nicholas Taleb propune o distincție între lebăda neagră din filosofia inducției (Nici un număr de observații ale lebedelor albe nu permite concluzia că toate lebedele sunt albe, pentru că observarea unei singure lebede negre este suficientă pentru a respinge acea concluzie) și Lebăda Neagră (cu majuscule), ca teorie a evenimentelor neașteptate, de mărime extraordinară, cu consecințe uriașe și cu un rol dominant în istorie.

Taleb propune trei criterii pentru a defini și identifica o Lebădă Neagră:

  1. Evenimentul este o excepție (outlier), deoarece se află în afara sferei așteptărilor obișnuite, și nimic din trecut nu poate indica în mod convingător posibilitatea producerii acestuia.
  2. Evenimentul este rar, dificil de anticipat și are un impact disproporționat de mare la scară planetară.
  3. Evenimentul este neprevăzut dar, după producerea lui, are loc o schimbare de perspectivă, ca și cum ar fi putut fi prevăzut. Adică, datele relevante erau disponibile, dar nu au fost considerate ca premonitorii. Același lucru este valabil și pentru percepția personală a indivizilor. În ciuda statutului său excepțional, natura umană ne face să găsim explicații pentru apariția post-factum a evenimentului, făcându-l astfel explicabil și previzibil.

Tripleta raritate, impact extrem și predictibilitate retrospectivă (dar nu și perspectivă) stă la baza teoriei lui Taleb. Un număr mic de Lebede Negre explică aproape totul în lumea noastră, de la succesul ideilor și al religiilor, până la dinamica evenimentelor istorice, științifice, financiare, tehnologice și chiar a unor elemente ale vieții noastre personale.

Exemple de Lebede Negre sunt: atacurile de la 11 septembrie 2001, inventarea tiparului, prăbușirea comunismului, Internetului (cu cele trei celebre „universități” Google, YouTube, Wikipedia), emergența Facebook-ului, crizele financiare, scufundarea Titanicului, catastrofele de la Cernobîl și Fukushima Daiichi,  schimbările climatice rapide[3] ș.a.

În ultimii doi ani am publicat o serie de articole de popularizare și o carte[4] în care am făcut încercări de jalonare a unor repere semnificative ale rolului inteligenței artificiale în societatea umană actuală și viitoare. Cercetările mele despre diverse metode AI supervizate (rețele neuronale artificiale, algoritmi genetice, mașini cu suport vectorial, logică fuzzy ori învățare activă) au fost publicate cu începere din 2007. Toate aceste eforturi m-au pregătit să fac următoarea afirmație:

Inteligența artificială este noua Lebădă Neagră a secolului al XXI-lea, o revoluție tehnologică ale cărei efecte asupra viitorului sunt foarte dificil de estimat.

Conform criteriilor propuse de Taleb, AI reprezintă o Lebădă Neagră pentru că este un eveniment rar, manifestându-se dincolo de orizontul așteptările noastre cotidiene, cu un impact disproporționat de mare și cu consecințe imprevizibile în viitor. Deși fiecare  aspect menționat merită un articol separat, mă voi ocupa în continuare numai de viitorul greu de prevăzut în condițiile impactului imens al Revoluției AI.

Revoluția AI – Provocări majore și dileme morale

Dezvoltarea fără precedent a roboticii, propulsată de algoritmi tot mai avansați, cu performațe super umane, va schimba aproape orice activitate economică, inclusiv forma și obiectul muncii noastre, va crea oportunități sociale și economice enorme, dar și provocări majore, însoțite de dileme etice. Un binom om-mașină va fi, în opinia mea, cea mai probabilă formă de activitate lucrativă a secolului actual și al celor viitoare.

Mulți se tem că computerele inteligente vor lăsa numeroși oameni șomeri, fie că sunt dirijori (Figura 1), asistenți sociali (Figura 2) sau muncitori agricoli (Figura 3). Alții, însă, consideră că automatizarea și mașinile inteligente vor genera noi joburi umane și vor crește prosperitatea pentru toți.

Figura 1. Robotul  YuMi dirijează Orchestra Filarmonica di Lucca și pe Andrea Bocelli la Teatro Verdi din Pisa, Italia, pe 12 septembrie 2017 (Sursa).

Robotul ASIMO a dirijat Orchestra Simfonică din Detroit pe 13 mai 2008.

Figura 2. O femeie cu un robot la azilul San Lorenzo din Florența în 2015. (Sursa)

Figura 3. Un robot împinge mâncare către două vaci de  la o fermă din Midwest, 10 august 2017 (Sursa)

Dar istoria pare a se repeta.

De la începutul Revoluției Industriale, mecanizarea a fost controversată. Pe de o parte, mașinile au crescut productivitatea muncii și veniturile individuale. Pe de altă parte, unii s-au simțit amenințați că avansul mașinilor va genera mai mulți șomeri, va duce la scăderea salariilor și va deturna toate profiturile obținute către patroni. Să ne amintim cum, la sfârșitul secolului al XVIII-lea, luddiții din Nottingham au distrus războaiele de țesut și alte echipamente ale fabricilor de textile.

Acum, unii cred că roboții și Revoluția AI sunt cei care amenință locurile de muncă, salariile și egalitatea economică. De aceea,  sunt necesare acțiuni pentru a preveni cele mai pesimiste scenarii. Pentru aceasta, este nevoie de o analiză mai profundă a modului de funcționare al Revoluției AI.

Caracterul său principal decurge din confluența a două curente științifice: infotehnica și biotehnica. [5]

Primul însumează eforturile cercetătorilor care dezvoltă algoritmii AI pentru a îndeplini sarcini specifice: recunoașterea pattern-urilor (pattern recognition), învățare profundă (deep learning), extragerea datelor (data mining), sisteme de învățare pentru computere (machine learning) ori utilizarea bazele de date imense (Big Data). Al doilea înmănunchează eforturile biologilor și sociologilor de a descifra emoțiile, intuițiile și dorințele umane.

Intersecția celor două curente este responsabilă pentru producerea algoritmilor care vor înlocui mulți dirijori, doctori, fermieri, șoferi, bancheri, soldați, femei de serviciu, secretare din birouri ș.a.m.d. Practic, acești algoritmi inteligenți ar putea să producă  sute de milioane de șomeri într-un viitor nu prea îndepărtat.

În 2013, cercetătorii de la Oxford Martin Programme on Technology and Employment (Universitatea Oxford, Marea Britanie) au analizat gradul de fragilitate a 702 meserii în confruntarea cu automatizarea și robotica. Concluzia lor a fost uluitoare: 72% din joburile din SUA sunt în pericol potențial de a fi computerizate, cele mai vulnerabile fiind cele din transporturi, logistică, suport administrativ și de producție. Cu alte cuvinte, vor veni zile grele pentru taximetriști, secretare, contabili, auditori și alți funcționari de birou.[6]

De exemplu, mașinile fără șofer au câteva avantaje majore în fața șoferilor umani: respectă cu strictețe toate regulile de circulație; nu depășesc viteza legală; nu conduc în stare de ebrietate;  nu înjură și nu au altercații fizice cu celelalte mașini din trafic. Anual, în 180 țări, circa 1,25 milioane oameni mor în accidente rutiere, iar în peste 90% din cazuri oamenii sunt vinovați de producerea lor. Și atunci, nu este timpul ca șoferii AI să înlocuiască pe cei umani?

Și în armată AI va avea aplicații majore. Folosirea soldaților umani implică prețuri economice, politice și sociale exorbitante.  Roboții humanoizi vor înlocui soldații umani, iar dronele militare și bombele inteligente au devenit deja arme deosebit de sofisticate și letale. Mai adăugați numărul relativ mic de experți necesari să declanșeze și să mențină războaie cibernetice devastatoare.

Ce se va întâmpla cu oamenii care își vor pierde vechile joburi? Teoretic, există două posibilități.

Prima ar presupune intervenția deliberată a guvernelor, care ar putea încetini ritmul de pătrundere și răspândire al inteligenței artificiale, ameliorând șocurile impactului și ușurând tranziția către noile realități socio-economice. Dar o imixtiune statală va fi greu acceptată în sectorul privat, unde avantajele automatizării și robotizării vor fi decisive pentru patroni. De exemplu, când mașinile fără șoferi vor deveni o realitate, funcționând mai sigur și mai ieftin decât cele conduse de oameni, un mare număr de taximetriști și camionagii vor deveni șomeri.

A doua soluție, mult mai dificilă, ar fi crearea de noi joburi pe o piață a muncii dominată de AI. Cercetările sugerează că forța de muncă este flexibilă în adaptarea la noile tehnologii (Dacă generația anterioară era „cu cheia la gât”, actuala generație este „cu smartphone-ul în mână”, mai tot timpul). Este de așteptat că, într-o primă fază de tranziție, vor fi automatizate joburile rutiniere, iar angajații vor începe să lucreze în joburi mai complexe și non-rutiniere. De exemplu, în spitale doctorii AI se vor ocupa de diagnosticarea unor boli cunoscute și administrarea tratamentelor obișnuite, în timp ce doctorii umani vor fi mai bine plătiți pentru a interacționa cu pacienții, pentru a lucra pe cazuri complexe, pentru a executa cercetări de vârf care vor permite dezvoltarea unor noi medicamente sau tehnici chirurgicale de pionierat.

În alt plan, dilemele morale ale Revoluției AI nu sunt deloc neglijabile. Într-unul din articolele mele anterioare am prezentat deja dilema tramvaiului pe care o pune dezvoltarea mașinilor fără șofer. Eliminarea sau prevenirea acestor dileme va deveni piatra de încercare pentru triumful deplin al inteligenței artificiale. Din păcate, nu avem deocamdată studii serioase care să exploreze complexele, diafanele relații dintre AI și conștiință. Actualele computere, chiar și cele mai avansate, sunt doar niște mașini incredibil de inteligente, dar lipsite total de conștiință. Așa cum avioanele zboară mai repede decât păsările fără să aibă nevoie de pene, și computerele actuale pot rezolva probleme complicate mult mai repede decât oamenii fără să aibă nevoie de sentimente sau emoții. Cunoașterea ne-echivocă a diferențelor etice dintre mașini superinteligente și oameni va ajuta să înțelegem ce poate și ce nu poate face inteligența artificială și cum să o controlăm conform celor trei legi ale roboticii (apud Isaac Asimov).

În 1965, Good a emis ipoteza clasică referitoare la superinteligență: O AI suficient de inteligentă pentru a înțelege propriul ei design ar putea să se re-structureze sau să creeze un sistem-urmaș, mai inteligent, care ar putea apoi să se restructureze încă o dată pentru a deveni chiar mai inteligent și așa mai departe într-un ciclu de feedback pozitiv.[7] Superinteligența reprezintă o dilemă morală și unul din riscurile existențiale, care ar putea produce, într-o variantă nefavorabilă, o anihilare a vieții inteligente de pe planeta noastră sau o reducere drastică și permanentă a potențialului uman. Și situația inversă este posibilă. În varianta benefică, mașinile superinteligente ar putea să conserve viața și să ajute specia umană la realizarea deplină a potențialului său.

Va trebui să învățăm toată viața

Când am terminat liceul și am fost admis la facultatea de inginerie geologică și geofizică din București, părinții mi-au spus bucuroși: Ai să te chinui cinci ani să obții diploma de inginer, dar după aceea, nu vei mai avea probleme cu serviciul tot restul vieții. Această paradigmă era valabilă în deceniul opt al secolului trecut, când încă nu se fabricase primul calculator și telefoanele erau încă operate manual.

Lebăda Neagră aka Revoluția AI impune o cascadă de provocări, cauzând o drastică modificare a acestei paradigme. Piața muncii și sistemul educațional se vor transforma radical. Nu doar ideea unui loc de muncă asigurat pe viață, ci și ideea unei singure meserii practicate până la pensie vor dispărea în următorii 30-40 ani.[8] Va trebui să învățăm toată viața și asta va crea dificultăți suplimentare pentru că nu vom ști exact ce să-i învățăm pe copiii noștri.

Noua paradigmă se va reflecta în ascensiunea unui nou tip de economie – flexibilă, variată și autonomă, pe scurt, economia gig. Într-o astfel de economie piața muncii devine dominată de contracte temporare, de scurtă durată, cu joburi la comandă sau de tip free lancers.  Un studiu efectuat de Intuit estimează că până în 2020, circa 40% din muncitorii americani vor fi contractori independenți, utilizând platformele online.

În economia gig va exista un permanent surplus de forță de muncă, ceea ce îi va obliga pe unii lucrători să-și reducă pretențiile sub nivelul pe care îl consideră acceptabil. Mulți vor trebui să lucreze ore suplimentare în ritmuri accelerate și cu termene de predare scurte.

Pe lângă inegalitățile economice, vor apărea și altele geografice. De exemplu, pe cele mai mari platforme de lucru online pentru activități freelance în limba engleză,  aproape jumătate din joburi sunt oferite de angajatori din SUA, dar mulți din cei care acceptă aceste joburi locuiesc în Asia. Însă cei care locuiesc acolo unde se găsesc joburile au un avantaj în plus. Ei câștigă, în medie, $24,13/oră, față de un străin care primește doar $11,66/oră, adică de peste două ori mai mult.

Adăugați la aceste probleme stresul și anxietatea cu care se confruntă cei care își caută un nou job. Volatilitatea pieței muncii și insecuritatea job-ului actual au declanșat deja o cascadă de probleme psihologice, iar „americanii anului 2017 sunt deja candidați serioși la medaliile de aur ale Jocurilor Olimpice ale Anxietății”. [9]

Revoluția AI și noua ordine globală

Schimbarea paradigmatică descrisă mai sus ar putea conduce la apariția unei noi ordini, bazate pe noi modele socio-economice. Din nou, istoria ne oferă exemple. În secolul al XX-lea, socialismul a presupus că muncitorimea este elementul sine qua non al economiei, iar corifeii marxisto-leniniști au propagat tot soiul de doctrine menite să-i învețe pe proletari cum să transforme puterea lor economică în dictatură politică. În secolul al XXI-lea, clasa muncitoare este pe cale să-și piardă importanța economică din cauza mașinilor inteligente. În aceste condiții, își va pierde și relevanța istorică descrisă de Capitalul lui Marx. Noua ordine, promovată de Revoluția AI, va vedea muncitorii luptând nu contra exploatării, ci contra irelevanței lor sociale.

Revoluția Industrială din secolul al XIX-lea a fost ea însăși o Lebădă Neagră: a generat probleme și situații politice, economice, sociale, neprevăzute și neprevizibile. Impactul a fost uriaș, iar omenirea a trebuit să dezvolte modele complet noi pentru a le confrunta: democrațiile liberale, regimurile fasciste și dictaturile comuniste. Din neferice, au trebuit peste o sută de ani de experimente teribile, cu războaie și revoluții sângeroase, pentru a se re-îndrepta osia lumii. În secolul al XXI-lea, Revoluția AI se confruntă categoric cu provocări mult mai mari decât cele produse de motorul cu aburi, combustibilii fosili ,căile ferate și electricitatea. Să fim atenți, foarte atenți, ca istoria să nu se mai repete. Pentru că nu ne putem permite.

Concluzii

O Lebădă Neagră este o surpriză pentru observator. Exemplul folosit de Taleb, pe urmele lui Bertrand Russel, este al curcanului înainte de joia în care se serbează în America Ziua Recunoștinței (Thanksgiving), când curcanul este mâncarea preferată. Aș vrea să folosesc propriul exemplu, legat de porcul nostru de Crăciun.

Să considerăm un porc care este hrănit zilnic. Fiecare porție de mâncare pe care o primește va întări convingerea animalului că asta este o regulă de viață generală – să fie hrănit în fiecare zi de membri prietenoși ai rasei umane, care îi vor doar binele. Dar într-o bună zi dinaintea Crăciunului ceva neașteptat i se va întâmpla porcului.

Cu alte cuvinte, un eveniment de tip Lebădă Neagră depinde de observator. Pentru că  ceea ce ar putea fi o surpriză pentru porc nu este o surpriză identică pentru măcelarul care-l taie. Deci, obiectivul ar trebui să fie următorul: Evită să fii un porc prin identificarea zonelor de vulnerabilitate astfel încât să poți transforma lebedele negre în lebede albe.

NOTA BENE:

Anul trecut am câștigat, prin concurs, un grant de cercetare pentru estimarea TOC (Total Organic Carbon) din argila Marcellus, statul New York. Noutatea absolută a cercetării propuse este utilizarea unei metode AI fără supraveghere, numită SOM (Self Organizing Maps). Algoritmul pe care îl voi folosi va căuta singur pattern-urile existente în baza de date, va auto-învăța corelațiile dintre pattern-uri, le va analiza statistic și, la sfârșit, îmi va oferi cea mai probabilă hartă cu distribuțiile zonele organice bogate din argila Marcellus.

Următorul proiect a fost inspirat de știrea că o mare companie internațională a început foraje automate, fără personal uman, într-o țară din Asia Centrală. Operatorul uman stă confortabil într-un birou aflat la mii de km distanță și urmărește pe un ecran avansarea sapei de foraj și celelalte operațiuni din gaura de sondă. Imediat, mi s-a aprins un „beculeț” și am conceput o metodă prin care sapa de foraj va fi dotată cu AI, astfel încât „dumneaei” să cunoască în orice moment tipul de rocă penetrată, fluidele din pereții sondei, eventualele fracturi, cavități, etc.

După cum se poate vedea, paradigma meseriei unice, învățate o singură dată, pentru tot restul vieții, foarte apreciată de părinții mei cu decenii în urmă, nu se mai aplică în cazul meu. Învăț mereu noi lucruri și îmi adaptez din mers meseria originală.

NOTE____________


[1] Silver, D. et al., 2017, Mastering the game of Go without human knowledge, Nature, vol. 550, pp. 354 – 359.

[2] Taleb, N. N., 2007, The Black Swan: the impact of the highly improbable, Random Hose, 368 p.

[3] Cititorii ultimului meu articol, O ipoteză fascinantă: Încălzirea globală antropogenă a început cu 7.000 ani în urmă, stopând o nouă glaciație! Se va schimba paradigma climatică actuală?, vor fi sesizat tripleta raritate, impact extrem și predictibilitate retrospectivă în caracterizarea evenimentului climatic de acum 5000 – 7000 ani: încălzirea globală antropogenă timpurie are toate caracteristicile unei Lebede Negre.

[4] Fracturarea hidraulică 2.0: Roci digitale, inteligență artificială, big data și soft computing

Era sistemelor cognitive: Inteligență Artificială + Big Data

Fracturarea hidraulică 2.0: Cinco de Fraco, Octofrac și analize predictive în zăcămintele digitale

Amelia

Hello Barbie – Prima păpușă cu inteligență artificială (și câteva observații pentru părinți)

The Internet of Things (IoT): Lumea obiectelor inteligente. Beneficii și riscuri

Secolul al 21-lea va aparține inteligenței artificiale dacă vor fi rezolvate dilemele etice

Cranganu, C., H. Luchian and M. E. Breaban (Eds), 2015, Artificial Intelligent Approaches in Petroleum Geosciences, Springer, 290 p.

[5] Harari, Y. N., 2017, Reboot for the AI revolution, Nature, vol.  550, pp. 324–327.

[6] Frey, C. B. și Osborne, M., 2013, The Future of Employment: How Susceptible are Jobs to Computerization.

[7] Good, I. J., 1965, Speculations Concerning the First Ultraintelligent Machine, in Advances in Computers, edited by Franz L. Alt and Morris Rubinoff, Academic Press., New York, vol. 6, pp. 31-38.

[8] Ansell, M., 2016, Jobs for life are a thing of the past. Bring on lifelong learning.

[9] Williams, A., 10 iunie 2017, Prozac Nation Is Now the United States of Xanax.

Ai informatii despre tema de mai sus? Poti contribui la o mai buna intelegere a subiectului? Scrie articolul tau si trimite-l la editor[at]contributors.ro



Currently there are "66 comments" on this Article:

  1. victor L spune:

    Ieri am vazut stirea despre un robot declarat cetatean al Arabiei Saudite. Desi nu le vorbeste limba :P
    http://www.digi24.ro/stiri/sci-tech/gadget/primul-robot-din-lume-care-a-primit-cetatenie-817486
    Azi citesc articolul dlui Cranganu, si parca imi vine sa zic “vine Apocalipsa!”
    (Ce ti-e si cu unii analisti de relatii externe!)
    Bucurosi le-om duce toate, de lucra ei si nu mai lucram noi :P

  2. Caliman Eugen consultant dezvoltare industriala spune:

    Articolele d-lui Cringanu sint adevarata ,,scoala asupra viitorului”- pentru noi, cei de la marginea lumii…

  3. Omics spune:

    Orice activitate intelectuală ce are la bază un algoritm poate fi cedată mașinii. Inclusiv ameliorarea strategilor jocului Go. Era cedată prin programare, va fi cedată prin rularea de programe de AI care descoperă singure algoritmii și îi aplică. După ce își învață, lecția orice program de AI devine un program banal, care încorporează un algoritm, neștiut de la început.

    Omului îi rămâne spiritul nealgoritmizabil. Adevăratul spirit creativ, ce aduce Lebede Negre.

  4. IA si China spune:

    Felicitari pentru inca un articol interesant cum rar gasesti in presa romaneasca!In articol spuneati ca se va schimba “ordinea mondiala economica” si cred ca asa va fi.Adaug doar ca nu toate tarile vor beneficia in egala masura de aceasta revolutie tehnologica.PWC a publicat un studiu in care arata ca in primul rand China va beneficia cel mai mult de impactul IA asupra PIBului.Acolo se spune ca pana in 2030 China va beneficia masiv de implementarea IA urmata de SUA.Mai precis se spunea ca pentru inceput SUA va fi beneficiara principala a utilizarii pe scara larga a inteligentei artificiale urmand ca in deceniul urmator China sa preia rolul de principal beneficiar al utilizari IA.Deci ordinea economica mondiala se va schimba si in ce priveste puterea diferitelor tari in domeniul economic.Tarile in curs de dezvoltare din America Latina si Africa vor ramane in urma!

    • DragosH spune:

      @Dl Profesor,
      @IA si China

      Excelent articolul ! (ca toate celelalte).
      Daca e cum sustine IA si China m-ati pus pe ganduri.
      Forta de munca (ieftina) din China sa fie exponential inlocuita de AI, ar genera peste 2 decenii o Lebeda Neagra “grasa” chiar in China si, prin efectul de Domino, mai multe Lebede Negre sa vor “cuibari” si pe alte meleaguri.
      N-am ajuns in China, insa un prieten a vazut, cum intr-un supermarket de acolo, se puteau face plati din cont urmare a scanarii faciale. Ma mira cum AI ii deosebeste pe chinezi, eu unul nu prea pot :)
      Programele accesibile criminalistilor sau cele din filme genul Total Recall cu aplicatie in viata de zi cu zi….
      SF-uril e dvin realitate.
      Unde se va ajunge in 2050?

  5. r2 spune:

    Un lucru interesant se intampla si cu programele (“motoarele”, in engleza) care joaca sah. Cel mai puternic program de sah la ora actuala are un rating ELO de 3400. Campionul mondial Magnus Carlsen are in jur de 2820. Calibrarea ratingului este facuta in asa fel incat o diferenta de 200 de puncte sa insemne ca jucatorul mai puternic va castiga, statistic vorbind, 3 partide din 4 impotriva jucatorului mai slab (daca tin bine minte). Cu o diferenta de aproape 600 de puncte intre cel mai puternic program si campionul mondial, oamenii nu mai au nici o sansa in fata computerelor de ceva timp, dar altceva este interesant pentru mine, si anume faptul ca, dupa unii, ne apropiem de limitele jocului. Scorul ELO maxim posibil este in jur de 3600, dupa unele estimari. Computere din ce in ce mai puternice si algoritmi tot mai sofisticati pot fi construiti, dar jocul are o limita care, odata atinsa, face ca beneficiul marginal oferit de progresele de inteligenta (de orice fel) sa devina zero (ok, mai pot exista beneficii de viteza / eficienta chiar si atunci, dar odata atinse limitele jocului, se cam incheie subiectul – ganditi-va la jocul de X si 0 pe care il jucam in copliarie) .

    Daca ceva precum jocul de sah, considerat in trecut, de o “infinita” complexitate (for all intents and purposes), are totusi o limita, de care se pare ca ne si apropiem cu tehnologia actuala, este oare posibil sa existe un fel de hard limits pentru ce poate face util (pentru noi) inteligenta artificiala? Exista aplicatii suficient de complexe pentru a pune in valoare la nesfarsit progresele posibile ale AI? Aplicatii care vor cauza schimbari enorme in societate este clar ca exista, dar, ca pura intrebare teoretica, exista si limite?

    Ca o comparatie indepartata, un episod fascinant din istorie este explozia cambriana (un fel de Black Swan prehistoric :) ) Cu 540 de milioane de ani in urma, intr-un interval relativ scurt a avut loc o mare explozie de forme de viata multicelulara. Nu este clar de ce s-a intamplat lucrul asta. Una din teorii spune ca atunci au aparut primele oranisme capabile sa perceapa lumina, dezvoltand forme incipiente ale organelor de vedere, lucru care a declansat o accelerata cursa a inarmarilor la scara evolutiei, pentru ca organismele capabile sa vada au avut un mare avantaj in raport cu celelalte (teoria e disputata, nu sunt in masura sa imi dau cu parerea, o mentionez doar ca metafora). Daca consideram inteligenta un fel de extensie a abilitatii de a vedea, putem spune ca de atunci cursa inarmarilor a tot continuat. E posibil ca principalul beneficiu al inteligentei sa fie competitia pentru resurse cu alte organisme inteligente, incluzand confruntarea directa. Poate ca aplicatii practice de genul pasnic, cum ar fi jocul de sah, compozitii muzicale, condusul unei masini, automatizarea unei operatii chirurgicale etc. sa aiba limite relative usor de atins de tehnologie in urmatoarele decenii (pentru ca si simturile noastre au limite). Dar, ajunsi in acel punct, ce altceva va mai fi de facut? S-ar putea ca beneficiul suprem al plusului de inteligenta, la fel ca in istorie, sa nu vina din activitati pasnice. Dar, pana una alta, cred ca putem merge noi linistiti sa bem o bere, ca e vineri. weekend placut!

    • mike spune:

      In mod normal, la un joc de sah, sunt procesate toate combinatiile posibile existente pana intr-un anumit moment, inclusiv scenarii viitoare variate, precum deschiderea de “fronturi” false de atac sau sacrificarea aparenta a unor piese urmata de sah-mat. Totul se bazeaza pe o gandire de genul: daca fac mutarea asta ==> actiunea asta ( un fel de variabile booleene).

      Legat de Lebada Neagra, nu ar trebui dezvoltat oare un algoritm cu ajutorul caruia sa identificam un astfel de eveniment viitor? Asta pentru a nu fi lauti prin surprindere. Un fel de “virus”"antivirus”.

      • A. Despre jocul ce șah și AI, cred că cea mai autorizată părere aparține lui Garry Kasparov și ultima lui carte – Deep Thinking Where Machine Intelligence Ends and Human Creativity Begins, 2017, PublicAffairs, 287 p. – este o lectură obligatorie pentru oricine dorește să urmărească o explorare foarte umană a inteligenței artificiale, a posibilităților excitante pe care le oferă, dar și a limitelor inerente. Recomand călduros această carte.

        2. Un fel de „virus-antivirus”, care să identifice viitoarele Lebede Negre, ar fi o contradicție în termeni, care ar anula ab initio definiția evenimentului Lebădă Neagră (neprevizibil și neprevăzut prin definiție).

        • ion adrian spune:

          Ce este si ciudat si nostim este ca Botvinic in plus fata de calitatea de enorm jucator de sah era si matematician ba chiar intrase si in informatica-calculatoae si totusi nu a inteles imediat ca omul este sortit cu certitudine sa fie batut de programul de el insusi facut si facut nu neaparat de un jucator perormant de sah. :)

          Personal desi mult mai tanar decat el pariam in sens opus s…i nu-i asa…am castigat pariul?

      • r2 spune:

        Un program care incearca sa proceseze toate combinatiile posibile (“brute force approach”) o sa joace prost. E o poveste mai lunga de ce e nevoie de algoritmi mult mai subtili. Recomand si eu o carte mai veche a lui Kasparov “How life imitates chesss”. Pe cea noua am luat-o acum, multumesc pentru recomandare.

        • Computerele sunt inutile. Îți pot oferi doar răspunsuri” Pablo Picasso

          Un răspuns înseamnă un sfârșit, un stop complet. Pentru Picasso, nu a existat un sfârșit, doar noi întrebări ce se cereau explorate.
          Computerele sunt instrumente excelente pentru a produce răspunsuri, dar ele nu știu să pună întrebări, cel puțin nu la fel cum întreabă oamenii.

          • r2 spune:

            Pe mine m-a cam pus pe ganduri Daniel Dennett, si aici stiu ca nu vom fi de aceeasi parere. “Spiritul nealgoritmizabil” de care vorbeste cineva mai sus s-ar putea sa nu existe decat tot ca metafora. Dar pana la roboti care sa vrea si ei sa bea o bere la sfarsit de saptamana, cum spuneam mai sus, mai e mult :)

            • ion adrian spune:

              Nu stiu ca intuitiile apriorice ale lui Kant(spatiul si timpul) chiar sunt algoritmizabile ?
              Si mai sunt si alte cele…:)

        • mike spune:

          M-am gandit la Deep Blue cand am mentionat toate posibilele combinatii. In general jocul de sah se bazeaza pe experienta acumulata in timp si cunoasterea a cat mai multor combinatii.
          Din cate stiu jocul de Go este diferit avand reguli mai simple decat sahul si bazandu-se pe mai multe combinatii. “Brute force approach” se aplica mai mult la sah cred.
          Oare exista asemanari intre algortimii Al si Deep Blue?

          “adică, datele relevante erau disponibile, dar nu au fost considerate ca premonitorii.”– Exista vreo modalitate de prevenire a unei lebede negre daca luam in calcul anumite informatii din prezent? Nu ma refer la inteligenta artificiala, ci la diferite alte evenimente.

    • baraka spune:

      “Exista aplicatii suficient de complexe pentru a pune in valoare la nesfarsit progresele posibile ale AI?”
      O tabla de sah mai mare. Cred ca povestea aia cu P vs NP e legata strans de intrebarea ta.

      • r2 spune:

        variante de sah pe tabla mai mare exista si acum. nu intereseaza pe multa lume si cred ca e normal sa fie asa.

        • baraka spune:

          intrebarea ta era teoretica, nu daca intereseaza pe cineva.
          pur si simplu nu inteleg ce vrei sa zici.

          • r2 spune:

            aa, pai spune asea ;) ideea ar fi urmatoarea: e nevoie sa fie indeplinite mai multe conditii pentru ca inteligenta de orice fel sa poata face ceva util pentru cel ce o detine. simplificand mult, problema trebuie sa fie suficient de complexa, cu multe “potential outcomes”. intre aceste outcomes trebuie sa fie diferente semnificative. iar cel in cauza trebuie sa aiba posibiliatea de alege (fizic) intre ele.

            exemplu din biologie: se spune ca dexteritatea mainilor si inteligenta au evoluat impreuna. fara operatiile complexe de care sunt capabile mainile (construit unelte, arme, etc) inteligenta umana nu si-ar fi justificat costurile (foarte mari) la scara evolutiei. majoritatea animalelor nu ar a vea ce sa faca cu inteligenta de orice fel.

            nu mai lungesc vorba. ideea e ca limite exista din toate conditiile de mai sus. pe masura ce rezolvam din probleme, posibil sa ne apropiem de aceste limite (asa cum fac astazi programele de sah). limitele pot fi impinse mai depatte daca vorbim de confruntarea cu alte entitati inteligente in cadrul unui joc din ce in ce mai complex, cum ai spus tu in comentariu. ceea ce, daca e doar o intrecere pasnica, nu are prea multa importanta (asta am incercat sa spun eu). daca intrecerea nu e pasnica, atunci cred ca se aplica ce spune Lau in comentariul despre Maxim gun.

  6. AndreeaM spune:

    fff bun articolul! Felicitari!

  7. V Argesanu spune:

    Dar dacă, inspirat sau nu din celebrul ciclu SF Dune, “luddiții” mult mai eficienți ai vremurilor ce vor veni vor declanșa un “război butlerian” mult mai eficient împotriva mașinilor gânditoare, adăugând și o a unsprezecea poruncă (“Să nu îți faci mașină gânditoare după chipul și asemănarea minții omenești!”) celor zece ale patriarhului Moshe, obligând omul să renunțe la cârjele IA și să-și la treabă mai mult din capacitatea minții cu care a fost înzestrat?!
    E o ipoteză de domeniul SF, dar uite că SF a năvălit peste noi, fără să ne întrebe ce părere avem când bate la fund maeștri umani de top în jocuri strategice, dirijează orchestre simfonice sau obțin cetățenie (urmată de ce nu, și de drept de vot?!)
    …ce mai cârdul de lebede negre!!!

  8. Constantin Crânganu Constantin Crânganu spune:

    Inteligența artificială este pe cale să transforme fiecare aspect al vieților noastre într-un mod nemaivăzut de la crearea Internetului, poate chiar de la începutul folosirii electricității.

    Dacă tu programezi o mașină, știi ce poate să facă. Dar dacă mașina se programează ea însăși, cine mai știe ce este în stare să facă?

    Adaptare după Garry Kasparov, Deep Thinking Where Machine Intelligence Ends and Human Creativity Begins, 2017, PublicAffairs, p. 9.

    • Josef Svejk spune:

      Nu-mi place sa tund iarba. Nici baiatului mai mare nu-i place. L-am momit pe cel mijlociu cu $20 sa o faca. In final a constatat ca dureaza cam o ora jumatate cu tractorul pe care-l am. Cum in ziele noastre progresistii militeaza pentru salariul minim de $15/ora mi-a spus ca sunt un exploatator rapace si a intrat in greva pe termen nelimitat :P

      Ca orice capitalist care se respecta nu am cedat santajelor proletariatului razvratit, asa ca am investit in tehnica de varf, respectiv am cumparat o minunatie de robot de tuns iarba de la Husquarna. “The best selling robotic mower”. OK. Am muncti binisor sa-i stabilesc limitele, dar pana la urma a tuns iarba. Evident ca nu e destul de destept sa o si puna in saci. Adevarul e ca recurg la baggging doar odata la doua saptamani. Deci am zis ca si daca ma scapa de 50% din munca tot e bine. E drept ca nici calitatea lucrarii nu e grozava dar macar parea ca se descurca singur chiar daca o face in reprize – Nu poate tunde totul inainte de a i se temina acumulatorul cu litiu asa ca se intoarce la statia de incarcare unde sta ore bune inainte de a se intoarce pe tarla.

      La un moment dat insa s-a tampit cu totul. A reusit sa tunda inclusiv rasadurile cu flori ale sotiei care erau clar in afara limitelor programzte. L-am resetat si reprogramat. N-a ajutat la nimic. L-am gasit apoi in strada. tunzand asfaltul :D in final l-am urcat frumusel in remorca camionetei si l-am dus inapoi la Lowe’s ca se faceau in curand cele 3 luni in care mai puteam sa-l retunez. Apoi am revenit la negocieri cu sindicatele. Am cazut la pace pentru $30 :D

      • mike spune:

        Poate era programat sa tunda iarba si la vecini, de aceea a iesit afara.
        Eu vorbeam cu cei de la Google sa instaleze Al pe el si cred ca ar fi invatat sa evite florile :)

        • Josef Svejk spune:

          Nope. Vecinul a fost si mai ghinionist. A vazut robotul meu de tuns iarba si tare i-a mai placut ideea asa ca si-a luat si el unul si mai evoluat. Al lui a cazut in piscine si pana acolo i-a fost :D . Eu cum am gemenii de 6 ani am un grilaj solid si zavrat in jurul piscinei asa ca robotul n-a putut razbi chiar daca I-o fi traznit printre circuite.sa faca o baie :P

          Chestia e ca sunt unele gadget-uri care sunt atractive dar mult inainte de timplu lor. Asta e pe moment cazul robotilor de tuns iarba. De exemplu robotul de curatat piscina e o isprava remarcabila. Munceste saracutul cu spor si folos din 2011 de cand l-am cumparat si n-am nimic sa-i reprosez.

          Ideea e ca nici ala de la Google nu e cu mult mai destept Are nevoie de balize exterioare pentru a se orienta. in saptiu. Nu e capabil sa vada si sa interpreteze un mediu complex. facem de multi ani experimente cu masini miniere si de constructii autonome. Totul arata minunat in prezentarile oficiale cand totul e pregatit cu mult inainte. Ceea ce le lipsete insa tuturor acestor roboti “autonomi” e capaciotatea de a vedea si de ainterpreta ceea ce vad. Suntem la cel putin o generatie (daca nu mai multe) de asta. Masina lui Google e exact in aceeasi situatie. in fapt Google e de fapt in urma alto jucatori de pe piata numai ca are ao alta vizibilitate.

  9. man of war spune:

    sa pornim de la urmatoarele adevaruri :
    1. cei ce creeaza AI sint minoritari
    2. cei majoritari se inmultesc exponential (global, nu oaze reprezentind exceptii)
    3. transformarile tehnologice sint mult mai rapide decit cele sociale, iar socialul dicteaza.
    rezulta asadar ca totul se reduce n final la spatiu si resurse. habitatul omului este Pamintul, si ma ndoiesc ca va fi altcumva in viitor (viitorul pamintesc)

    • eu****** spune:

      Socialul se misca acum asa cum nu ne asteptam.
      Pattern-ul se schimba mai rapid decat se putea anticipa…

      Cei care cresc foarte mult – india, pakistan – se misca spre alte orizonturi si sunt cautati.
      Ne putem astepta ca in urmatoarea perioada numarul celor din AI sa creasca mai repede decat v-ati asteptat – ca asa este cu Lebada Neagra – probabil un proces rapid de extindere.

      Faptic cei care cred ca AI nu va avea cu cine si/sau pentru cine vor ramane usor mai in urma.

      Toti vrem sa fim mai sus decat suntem acum, toti vrem sa avem mai multa comoditate ramane numai sa ne stabilim coordonatele si sa ne inscriem pe orbite – si inca calea nu a fost clar descrisa dar natural si firesc se scrie singura deja.

      Viitorul apartine celor curajosi si cutezatori – chiar daca uneori ei nu reusesc, reiau si …

  10. Constantin Crânganu Constantin Crânganu spune:

    Drosophila AI

    John McCarthy, matematicianul american care a inventat termenul Inteligență Artificială în 1956, a numit șahul „Drosophila AI-lui”, referindu-se la umila insectă devenită un subiect ideal pentru nenumărate experimente cruciale în biologie, în special genetică.

    La sfârșitul anilor 1980, comunitatea șahiștilor AI a renunțat practic la acest mare experiment. În 1990, Ken Thompson de la Laboratoarele Bell din New Jersey, guru-ul care a implementat UNIX, a recomandat jocul Go ca fiind o țintă mai promițătoare pentru avansuri reale în programarea AI. În același an, compendiul Computers, Chess, and Cognition a inclus o întreagă secțiune dedicată lui Go, sub titlul „A New Drosophila for AI?”

    Tabla Go, cu cele 19×19 pătrate și cele 361 pietre albe și negre, este o matrice prea mare pentru a fi „spartă” cu forță brută, iar jocul însuși este prea subtil pentru a fi decis de gafe tactice definitorii pentru pierderile umane în fața calculatoarelor la șah.

    În acel articol din 1990 despre Go ca noua țintă AI, un grup de programatori Go au spus că ei se află cu circa 20 ani în spatele șahului. În 2016, la 19 ani după ce Deep Blue l-a învins pe campionul mondial la șah Garry Kasparov, programul AlphaGo Master l-a învins pe campionul mondial la Go Lee Sedol. Apoi, anul acesta, AlphaGo Master a fost zdrobit, 100 – 0, de noul AlphaGo Zero, mașina care învață singură.

    Deep Blue a fost sfârșitul. AlphaGo este începutul.

  11. Gigel spune:

    Computerele pot opera cu date, adica informatii care nu numai ca sunt digitizate ( in mare trecute din sfera reala in sfera numerelor intregi. “pe un numar de biti” ) dar si intelesul e deasemenea redus la un subset de chestii “fara echivoc”.

    Cand e vorba de a lucra cu lucruri foarte complexe, ca si oamenii, computerele folosesc un model, adica o simplificare matematica/informatica a realitatii.
    Nu, nu ma refer la jocul de Go ale carui reguli sunt simple si pot iinvata matematic, calculul tuturor variantelo de mutari e greu pentru noi, oamenii, nu si pentru masini.

    Dar nu poti reduce totul la matematica. De exemplu economia. Sau marketingul. Fiindca sunt facute de oameni, iar oamenii pot lua decizii greu de prevazut matematic.

    Cand noi, oamenii vom pune computerele sa rezolve matematic totul, de ex. economia sau care e cea mai buna mancare pe care sa o cumparam azi, ne vom trezi ca nu mai avem libertate, chiar daca vom trai intr-o societate perfecta, organizata de calculator.
    Dar n-ar fi prima data in istorie cand ne vindem libertatea pentru securitate, din lene

  12. Josef Svejk spune:

    Domnule profesor,

    Articolul dumneavopastra imi aminteste de predictiile futurologilor din copilarie (~ 1980) pentru decada 2000-2010: Baze permanete pe Luna si posibil inceputul colonizarii planetei Marte. Masini, avioane si trenuri care se conduc singure. Rtoboti care fac treburile prin casa si muncesc in fabrici. renuntarea aproape completa la combustibilii fosili. Japonia prima forta economica a lumii, etc. Cam ce am vazut din toate astea in deceniul trecut?! :P Cam care sunt perspectivele sa vedem ceva din toate astea in deceniul viitor?

    Impresionanta povestea cu robotu’ care a p[us burta pe carte si a invatat singur singurel pana l-a facut marţi la Go pe weltmeisterru’ coreean. Insa eu m-as multumi daca Goagăl ar putea face masinaria lor de tradus ceva mai desteapta decat e. Pana una alta le cam traduce a la “lingursion si furculision”, cel putin cand vine vorba de textele patentelor tehnice. Am incercat sa traduc automat unul de al meu ce afost publicat si in Germania si marturisesc ca n-am priceput mai nimic :P Ca sa nu mai vorbim de functia “autotranslate” de pe Youtube ce e 99.8% inutila.

    Acum vreo doi ani m-am intalnit pe aeroportul din Atlanta cu un bun amic (Nu, nu e vorba de genistul Vodička) care e ceva Stabsfeldwebel la Google. Asteptand avioanele noastre am stat la o paraloa. L-am intrebat de chestia cu traducerea automata care ma chinuia si pe atunci. Amicu’ a fost de-a dreptul revoltat: “Tu iti dai seama ce efort titanic e asta?! Nu se va intampla nici in 2, nici in 5 si foarte posibil ca nici inn 10 ani!” La predictia pe doi ani a avut in mod cert dreptate :D

    Cat despre legenda cu asiaticu’ care munceste ca furnicuta pe $11/ora aia nu mai e adevarata de peste 10 ani. In zilele noastre cele mai simple chestii produse prin outsourcing costa de la $20/ora in sus. Nu ia el atata in mana , ci atata costa. Si trebuie retinut faptul ca ora produsa de furnicuta asiatica valoreaza in cazul cel mai fericit ceea ce produce cineva aici in 30-45 de minute. Asta nu din cauza ca furnicuta asiatica e neaparart proasta, ci din cauza ca pur si simplu de la distanta care e nu are perspectiva completa a ceea ce trebuie sa faca. Sau altfel spus numarul lucrarilor “statice” si care pot fi definite de o specificatii simple si rigide si imuabile e foarte redus. Cresterea destul de accelerata acosturilor acolo a dus la reducera serviciilor “outsourced”. Oricine locuieste in SUA a observat probabil ca au cam disparut de la serviciile telefonice “Hi Sir, i am Jeremy” spus cu un accent gros de Chennai. :P

    Sunt impresionat de robotii dirijori dar ne cam lipsesc robotii sudori:P Adica aia pe care-i avem pot face intr-adevar mai bine ca omul operatii repetitive atent programate, dar pana un alta nu sunt destul de destepti sa citesca nici un desen tehnic si nici macar un model 3D cu toti parametrii sudurii in el. Ca sa nu mai vorbim de faptul ca nu pot sa puna piesele in dispozitiv, decat atunci cand totul e repetitiv, amnticipat si atent programat. necazul e ca in ziua de azi cine da milioane de USD pe o masina industriala o vrea personalizata. Asa incat platim sudorii de la $22/ora in sus, cu 3 luni de training platit si chiar si asa sunt tare greu de gasit la vremurile astea ale Trumpului de criza acuta de mana de lucru… Daca vedeti un freelancer din asta ce se chiuie sa castige $24,13/oră sfatuitu-l sa-si caute o slujba de sudor. Scoate din secunda 1 mai mult si daca mai punem la socotela si orele suplimentare platite dublu … :D

    • DW spune:

      Pai cu atatea avantaje oferite sudorului de ce nu va apucati de aceasta meserie ?

      • Josef Svejk spune:

        Pentru că sunt inginer și nici măcar un inginer ce a terminat ieri școala nu aceeptă să lucreze pe sumele alea meschine. Inginerii sunt de altfel și mai căutați ca sudorii…

  13. Constantin Crânganu Constantin Crânganu spune:

    Ciclul automatizare – teamă – acceptare finală. Un exemplu relativ recent

    Este larg acceptată ideea că avansurile tehnologice inexorabile trebuie sărbătorite, nu privite cu teamă. Cu fiecare nouă dezvoltare a mașinilor, se aud, totuși, voci panicate și pline de îndoieli, și zgomotul lor devine mai puternic astăzi. Aceasta se datorează în parte diferențelor dintre ce și cum este înlocuit de noile tehnologii. Boii și caii nu puteau scrie pe Facebook sau să trimită scrisori de protest la diverse publicații atunci când tractoarele și automobilele au început să-i înlocuiască. Muncitorii necalificați au fost și ei lipsiți de o voce publică, dar adesea s-au considerat norocoși pentru că au fost eliberați de povara unor munci care le rupeau spatele.

    Așa s-a întâmplat decenii la rând în secolul al XX-lea, cu nenumărate joburi care s-au pierdut sau au fost transformate prin automatizare. Profesii întregi au dispărut și, totuși, puțină lume le-a jelit dispariția.

    Exemplul care mi se pare foarte sugestiv este al liftierilor.

    În anul 1920, sindicatul liftierilor din SUA era puternic prin cei 17.000 membri. Abilitatea lor de a paraliza un oraș întreg prin grevă s-a materializat în septembrie 1945 în New York. A fost un eveniment-șoc, când, conform Agenției Associate Press, mii de oameni s-au chinuit să urce scările care păreau că nu se mai termină, precum în Empire State Building, cea mai înaltă structură din lumea acelui an.

    Ce s-a întâmplat apoi? Au apărut lifturile cu butoane automate, care au pus pe liber liftierii. Dar lucrurile nu au decurs fără frământări. Așa cum astăzi mulți oameni se tem să urce într-o mașină fără șofer, la fel s-a întâmplat și în anii 1950, când multă lume se temea să urce/coboare cu un lift fără personal autorizat.

    Tehnologia liftului automat exista din 1900 (compania Otis Elevator din Connecticut), dar oamenii nu se încumetau să folosească un lift fără liftier/ă. A trebui să vină greva din 1945 și o intensă campanie PR din partea industriei ca să se modifice percepțiile oamenilor și să-și învingă teama de o noutate tehnologică. La fel se petrec lucrurile astăzi cu mașinile fără șofer.

    Dar ciclul automatizare-teamă-acceptare continuă.

    Multe din cele mai promițătoare joburi de astăzi nu existau cu 20 de ani în urmă și trendul acesta va continua și se va accelera. Designer de aplicații mobile, inginer de printare 3D, pilot de drone, manager de medii sociale, consilier genetic sunt doar câteva dintre oportunitățile de muncă apărute relativ foarte recent. Și, în timp ce experții vor fi tot mai căutați și prețuiți corespunzător, mașinile tot mai inteligente vor coborî constant stacheta menită creării de noi tehnologii. Asta înseamnă mai puțin training și re-training pentru cei ale căror joburi vor fi luate de roboți – un ciclu valoros care ne va elibera de munca rutineră și ne va ajuta să folosim mai productiv noile tehnologii.

    • NOTA BENE:

      Deși liftul din Corpul B al Universității ”Al. I. Cuza” din Iași – unde am lucrat între 1980 și 1993 – era automat, existau și două liftiere. Jobul lor (se lucra în două schimburi) era să te întrebe la etaj vrei să urci/cobori, 1, 2 sau 3. După care, fără să se ridice de pe scaunul confortabil (reșou dedesubt iarna și ventilator vara) pe care ședeau 8 ore, întindeau o mână și apăsau butonul 1, 2 sau 3. Atât și nimic mai mult.

      Când am revenit la Universitate în perioada 2010-2011, în timpul anului meu sabatic, am avut senzația că mă întorc în timp: liftiera din Corpul B era la post!!! Ceea ce mi-a sugerat că unele joburi mor, dar nu dispar :-)

    • Josef Svejk spune:

      Ma tem ca inginerul de printare 3D e pe aceeasi craca cu liftiera din cdorpul B :P . De ani buni ma ocup mai mult de socoteli legate de bugete decat de inginerie dar continui sa utilizez Creo si Ansys mai mult ca sa nu-mi pierd mana. Nu pot deci pretinde ca (mai) sunt un utilizator de varf. Acum vreo 2-3 ani cand s-a instalat prima imprimanta 3D in grupul meu am pierdut probabil vreo 30 de minute ca sa ma prind cum functioneaza si ce e necesar ca sa printeze cam orice. O meserie pe care cineva o poate invata in 30 de minute nu prea aarata a profesie de viitor :D

  14. Lau spune:

    “Whatever happens, we have got
    The Maxim gun, and they have not”

    The Modern Traveller (1898)

    Una din consecintele cele mai importante ale Revolutiei Industriale a fost colonialismul din secolul XIX. Colonialismul a fost posibil datorita progresuui technologic in materie de armament, era foarte usor pentru puterile europene sa trimina corpuri expeditionare nu foarte numeroase, pentru ca diferenta de technologie era imensa. Nu vreau sa discut in nici un fel moralitatea colonialismului, doar sa remarc ca a fost un proces instoric cu consecinte geopolitice profunde.

    Geopolitic vorbind, AI-ul va fi Maxim gun-ul secolului XXI. Si, la fel ca in 1898, some will have it, others not.

  15. Klopo_Tare spune:

    Domnule Crânganu, de fapt programul cunoștea regulile, simple și puține, ale jocului de Go:
    AlphaGo Zero’s neural network was trained using TensorFlow, with 64 GPU workers and 19 CPU parameter servers. Only four TPUs were used for inference. The neural network initially knew nothing about Go beyond the rules.
    Cred că îl confundați cu alt program care a învățat să joace Super Mario, nu îmi mai aduc aminte numele.
    Cât privește inteligența artificială, este o țintă deosebit de îndepărtată. Ceea ce azi se numește așa este de fapt inteligență sintetică – adică digitalizarea experiențelor umane și/sau crearea de mecanisme de simulare a acesteia. Ceea ce lipsește în mod esențial este creativitatea, și nu mă refer la cea de tip stocastic, experimentată încă din Evul Mediu de Raimond Lull. Practic, IA de astăzi este la nivel de animal – Watson/IBM fiind un Golden Retriever de informație. Aceste programe de AI pot combina informațiile existente, dar nu pot trece dincolo de asta. Sunt un fel de savanți idioți.
    Cauza? Nu există o teorie a inteligenței, care să explice clar de ce și cât de mai inteligent este persoana X decât Y; care să explice de ce animalele nu sunt capabile de gândire abstractă; care să explice paradoxul H/S Gap – adică prăpastia dintre hardware, care s-a dezvoltat enorm, și software, care nu este încă capabil să simuleze capacitățile umane, în ciuda suportului hardware.

    • Cum lucrează AlphaGo Zero?

      Utilizează poziția curentă de pe tabla de joc ca input pentru o rețea neuronală artificială (ANN). Rețeaua calculează probabilitatea următoarei mutări care ar putea fi făcută și estimează probabilitatea de câștig pentru jucătorul care este la mutare. ANN învață mișcările care maximizează șansele de câștig printr-un proces de încercări și erori (învățare impusă, reinforced learning, metoda principală a programului). AlphaGO Zero a fost antrenat jucând doar partide împotriva lui însuși.

      În timpul antrenamentului, AlphaGo Zero a folosit circa 0,4 secunde timp de gândire pentru o mutare ca să execute o cercetare proiectivă, adică a utilizat o combinație de simulații de jocuri și output-urile rețelei sale neuronale pentru a decide care mișcări i-ar oferi cea mai mare șansă de a câștiga partida. Apoi, a folosit această informație pentru a-și actualiza rețeaua ANN.

      Cât de bine s-a descurcat AlphaGo Zero? S-a înregistrat aproape un ordin de magnitudine îmbunătățire în toți parametrii prin comparație cu predecesorul său, AlphaGo Master, care-l bătuse pe campionul mondial Lee Sedol: 4,9 milioane jocuri de antrenament vs. 30 milioane, 3 zile de antrenament vs. câteva luni și o singură mașină cu 4 unități de procesare tensorială (TPUs) vs. mașini multiple cu 48 TUPs. Cele patru TPUs sunt estimate a costa $25 milioane, adică de 13 ori mai ieftin decât predecesorul.

      • ion adrian spune:

        Cred ca pentru computer cu zero si unu al sau, asta este si solutia unica. Nimic special :)
        Dar desigur un volum enorm de munca. Nici asta nu ar fi ceva special.
        Desigur ca la romani ar fi foarte special :)

    • Josef Svejk spune:

      D-le Klopo_Tare sunt intru-totul de accord cu dumneavoastra.

  16. Liviu spune:

    1. Inteleg ca AI lucreaza mai bine decit omul acolo unde exista reguli.

    2. Intrebarea e: poate o masina AI sa creeze un nou tip de deschizator de conserve sau sa deseneze un nou model de rochie ? Adica, in afara regulilor poate fi AI creativa ?

    3. Atunci cind exista reguli, cum alege AI varianta optima ? Le incerca pe toate si optimizeaza ?
    Daca merge pe un fel de bijbiiala, singurul nostru dezavantaj e ca sintem mai lenti, dar nu facem prostii (multe) pina sa alegem ce e bun.

    4. Daca AI merge pe “orientare” si “optimizare”, nu avem de ce sa ne facem griji, ca e un fel de sluga perfecta.

    Evident, astept un raspuns.

    • Am scris mai sus o frază extrem de simplă:
      Deep Blue a fost sfârșitul. AlphaGo Zero este începutul.

      Edward Lasker, un maestru internațional la șah și un mare admirator al jocului Go, ar fi spus odată: „Regulile Go sunt așa de elegante, organice și riguros logice încât dacă există forme de viață inteligente undeva în Univers, aproape sigur că joacă Go”. Într-un anumit sens, mașina AlphaGo Zero demonstrează că o inteligență non-umană joacă Go într-un mod care este cumva similar cu al jucătorilor umani.

      Regulile jocului Go sunt cât se poate de simple, dar complexitatea care apare în timpul jocului este amețitoare. Jucătorii umani confruntă această complexitate parțial prin analiză: studiază tactici, memorizează poziții bine-cunoscute și învață să abordeze mai profund mutările viitoare. Jucătorii profesioniști, care concurează pe sute de milioane dolari se antrenează de pe la patru ani ca să poată dobândi aceste abilități competitive. Realizările lor sunt extraordinare – a gândi a sută de mutări în avans și a aprecia riguros poziția de pe tablă dintr-o singură privire sunt chestiuni ordinare pentru ei.

      Dar analiza jocului este doar poziția de start. Jucătorii Go trebuie de asemenea să acumuleze doze serioase de înțelepciune, experiență, concepte strategice, judecată, intuiție etc.

      AlphaGo Zero nu numai că a atins, dar a și depășit calitățile celor mai buni jucători umani. după cum am scris în articol, în timpul celor 100 partide câștigate fără la zero, noua mașină a produs strategii pe care jucătorii umani încă nu le-au inventat, deși Go se joacă de mii de ani. Cu alte cuvinte, mașina poate fi creativă dincolo de regulile impuse.

      Cum alege mașina varianta optimă în prezența regulilor? Aceasta este o discuție mai lungă și mai specializată, cu mulți termeni de jargon AI. Dacă lucrați în domeniul AI sau computer sciences vă pot descrie detaliat procedurile fără să sperii pe ceilalți cititori. Bref, este vorba de utilizarea a două rețele neuronale profunde, una pentru reguli și una pentru valori. După perioada de antrenament, cele două rețele se combină cu un arbore de căutare tip Monte Carlo pentru a selecta finalmente mutarea cu cea mai mare probabilitate de a câștiga partida.

      Mai multe detalii pot fi găsite în Singh et al., 2017, Artificial Intelligence: Learning to play Go from scratch, Nature, vol. 550, pp. 336 – 337.

      • Liviu spune:

        D-le Profesor,

        Multumesc pentru explicatie; inteleg ca exista metode care poate imita si gindirea umana, dar e tot o optimizare facuta de om.

        Am inteles ca AI nu are imboldul si capacitatea de a crea si de a-si da seama ca obiectul creatiei e mai bun, e util sau e mai frumos.

        Cred ca fatalistilor le e frica de posibilitatea ca masina sa devina constienta, sa rupa limitele programarii/algoritmului si sa evolueze.

        Nu cred ca un om poate crea un egal al sau (nici macar un politican) din sirme si magneti, oricit memorie si orice algoritmi i-ar atasa.
        In cel mai reusit caz,putem presupune ca vom intelege – partial, desigur- mecanismele gindirii omenesti si sa ne apropiem de un robot multumitor.

        Cred ca si un animal, chiar nevertebrat e o tinta indepartata.

        Si, la urma urmei, de ce ?

        Vrem sa ne facem viata mai usoara, nu mai complicata.

        Nu dorim de la roboti mai mult decit sa preia muncile repetitive, sa ia decizii in limitele prescrise si sa rasfoaisca in baze de date.

        • Liviu spune:

          Ei da, am facut o greseala, una de acord, n-am incotro, trebuie sa folosesc po tastatura care rupe conectia gind-mina.

          Mai voiam o singura completare:

          Si conducerea auto complet autonoma e o aiureala care va rezerva surprize neplacute.

          Si aici se poate aplica teorema incompletitudinii – noi, oamenii, ne adaptam, dar masina nu.

        • Părerile pe care le-ați exprimat sunt de mult bun simț și au valoare practică. O bună parte din întrebările dumneavoastră au fost adresate în articolul meu Secolul al 21-lea va aparține inteligenței artificiale dacă vor fi rezolvate dilemele etice din care citez:

          Inteligență artificială comprehensivă (sau generală), pe care o presupun a deveni caracteristica esențială a secolului al 21-lea, va putea fi obținută doar atunci când vom putea crea ființe umane virtuale, care vor gândi, vor acționa și se vor comporta la fel ca oamenii. Această fază nu va mai implica supunerea necondiționată a mașinilor inteligente la instrucțiunile explicite ale creatorilor umani, ci va marca acele situații în care comportamentul AI va deveni implicit și interpretativ.

          Posibilitatea creării unor mașini gânditoare ridică o mulțime de dileme etice.

          În primul rând, trebuie să ne asigurăm că astfel de mașini nu vor produce nici un rău oamenilor și altor ființe cu relevanță morală (Cele trei legi robotice, introduse de Isaac Asimov în 1942, pot servi ca un solid punct de plecare).

          Apoi, trebuie să ne asigurăm că toate acele criterii care asigură îndeplinirea funcțiilor sociale de către oameni vor fi incorporate în algoritmii AI presupuși să înlocuiască judecata umană a funcțiilor sociale: responsabilitate, transparență, auditabilitate, incoruptibilitate, predictibilitate și tendința de a nu face victime inocente. Lista criteriilor nu se vrea exhaustivă, ci doar un mic eșantion a ceea ce o societate din ce în ce mai computerizată ar trebuie să aibă în vedere.

          Lectura articolului vă va oferi sugestii și despre alte probleme potențiale ridicate de avansurile impresionante ale AI în viețile noastre de toate zilele: creșterea șomajului, inegalități economice, atacuri militare și cibernetice.

  17. Ion Adrian spune:

    Poate descoperi sau macar intelege un program de tipul celui fescris sau oricum ar fi el inductia completa? dar cele doua legi postulate ale logici, dar specificul adunarii ca lege de comppzitie?

    • ion adrian spune:

      Desigur ca intrebarile si nici raspunsul la ele oricare ar fi nu exclud ci chiar includ Robotica si Inteligenta Artificiala, programele expert incluse aici in evolutia noastra viitoare ci doar incearca sa ajunga la fundamente.

  18. Fartat spune:

    Când AlphaGo va întreba „de ce joc eu Go?”, atunci să cădem pe gânduri; până atunci, întreaga lume, pentru AlphaGo, este caroiajul de 19×19. Gândirea este un proces volitiv, propriu vieţii, şi nu maşinii; maşina nu urmăreşte un scop – scopul e al omului care a creat-o. În momentul în care, înzestrând maşina cu senzori, prin care să cunoască mediul, vom observa că maşina dezvoltă intenţii proprii, atunci vom vorbi despre o Lebădă Neagră; deocamdată e doar inteligenţă artificială.

  19. MariS spune:

    AI este chiar mai mult decât o “lebădă neagră”, este o provocare luciferică: ţinteşte supraomul. Cineva a remarcat că dacă un robot are o metodă de învăţare corectă, într-un anumit domeniu, el ajunge la limita acelui domeniu, adică ajunge expert pe acel domeniu. Vorbesc nu doar de stadiul actual, ci şi de cel viitor. Efecte majore: roboţi la conducere, ca experţi calificaţi, plus obiectivitate maximă, iar un alt efect va fi naşterea .. androidului. Androizii vor reprezenta Umanitatea_2.0. Ei vor perfecţiona, la rândul lor, roboţii până la stadiul în care ei, roboţii, vor deveni experţi şi în programare AI şi se vor .. autoperfecţiona. Aceia vor reprezenta Umanitatea_3.0: superroboţii. Ei se vor putea dispensa de oameni, fiinţe slabe, supuse greşelii, subiective, orgolioase, agresive, lacome. Ei vor fi prototipul omului absolut .. corect. Supraomul.
    Se spune că dacă Dumnezeu ar fi .. corect, oamenii ar dispărea sau ar ajunge cu toţii în iad. Doar mila lui Dumnezeu ne mai salvează. Însă Supraomul sau Superrobotul corect nu va fi milos, pentru că mila va fi considerată slăbiciune. Ştiu că pare catastrofică această viziune, dar poate că nu strică să fim prevăzători ..

  20. Josef Svejk spune:

    In afara subiectului.

    Cum majoritatea articolelor d-lui profesro Cranganu au provocat dezbateri aprinse si patimase despre incazilrera globala, emisii de carbon si alte celea, doresc sa va aduc la cunostinta ca incalzirea globala a lovit din nou!

    Ieri pe la pranz am am avut prima ninsoare a anului. Mai sunt inca frunze in copaci. e adevarat ca de cand s-a intetit incalizrea globala a inceput sa ninga de prin Noiembrie, dar totusi… Conform alora de la radio n-a mai nins pe aici inainte de 27 Octombrie din 1928. Iar ultima ninsoare in Octombrie a fost acum 8 ani cand a nins intr-adevar abundent in seara dinainte de Halloween. Nu pot sa uit nici acum. Era vineri dupaamiaza. Sotia mea m-a sunat disperata ca era blocata in trafic pe autostrada (la primii fulgi de zapada toti astia de pe aici incep sa conduca ca babele) si sa merg sa-i iau pe copii de la scoala – ceea ce am si facut. In seara urmatoare am mers cu ei si cu prietenii lor la “trick or treat” – ii trageam alternatic cu un vecin cu o sanie imensa pe alei :P

    • Tot în afara subiectului:

      TransCanada to sell solar assets, focus on C$24 billion capital program

      Canadian pipeline operator TransCanada Corp (TRP.TO) has agreed to sell its solar energy portfolio for C$540 million ($426 million) to focus on its C$24 billion worth of other core projects, including its recently purchased Columbia natural gas network, the company said on Wednesday.

      Comentariul meu: Cum adică, în Canada ”frumosului Trudeau” se vând instalațiile solare pentru a se dezvolta proiecte bazate pe odioșii combustibili fosili?!?

      Lawrence Solomon: Trudeau stubbornly keeps Canada standing with Paris as everyone else bails
      This week it was Australia’s turn to desert the cause, when it rejected its Clean Energy Target

      Prime Minister Justin Trudeau is the newest poster boy for the worldwide global warming crusade, and justifiably so. No nation’s leader more cares for the planet, judged by the climate metric, than Canada’s own.

      It is becoming a lonely battle, however. Unlike Trudeau, whose signature on the Paris climate agreement meant something — he has been nothing if not diligent in imposing climate action on provincial premiers — most signatories are ignoring, if not altogether abandoning Paris commitments, undoubtedly because voters in large part put no stock in scary global warming scenarios.

      State-Subsidized Solar Panel Maker to Close in Mississippi

      Another green energy company heavily incentivized by Mississippi is shutting down, raising questions about whether the state will get repaid.

      • Laura spune:

        Totusi, nu mi se pare nimic anormal in aceasta tranzactie. TransCanada este companie publica, nu are nimic de a face cu guvernul. Mai mult, TransCanada a obtinut un profit din aceasta tranzactie — adica cine a cumparat aceste instalatii a considerat ca valoreaza MAI MULT acum decat valorau in 2013 (cand au fost cumparate de TransCanada).

        • Josef Svejk spune:

          TransCanada e la fel de „publică” și „indepenedentă” de guvernul țării ei ca și Gazprom :P Ghici cine e acționarul majoritar și ghici cine acordă concesiununile în lipsa cărora ambele tarabe s-r închide imediat…

  21. Constantin Crânganu Constantin Crânganu spune:

    Dragoni-Regi, Lebede Negre și predicția crizelor financiare

    Una dintre cele mai importante aplicații ale teoriei Lebedelor Negre (menționată și în articolul meu) este predicția crizelor financiare. După publicarea cărții lui Taleb în 2007, criza financiară globală din 2008 a popularizat termenul Lebădă Neagră.

    Dar în 2009, profesorul Didier Sornette, ETH Zurich, a propus o explicație alternativă a crizelor financiare majore și a altor evenimente similare. El a introdus conceptul de Dragoni-Regi ca o alternativă la Lebedele Negre (evenimente rare, cu impact colosal și imprevizibile).

    Dragonul-Rege se referă la un eveniment care are o dimensiune sau un impact imens ca un rege și, de asemenea, este născut dintr-o familie specială, ca un dragon. Aceste evenimente sunt generate de mecanisme precum tranzițiile de fază, bifurcațiile, feedback-ul pozitiv, catastrofe, puncte de cotitură etc., care de obicei au loc în sisteme complexe neliniare. Cu alte cuvinte, acestea sunt evenimente extreme și speciale. Conform definiției lui Sornette, sunt „meaningful outliers” (excepții semnificative”.

    Sornette subliniază că principala caracteristică a evenimentelor Dragon-Rege este prezența unui mecanism de feedback pozitiv care “creează o creștere mai rapidă decât cea exponențială, făcându-le mai mari decât se așteaptă”. Dar doar pentru că evenimentele Dragon-Rege sunt extreme, nu înseamnă că sunt rare, avertizează Sornette. Dragonii-Regi, spune el, nu sunt versiuni ale unor eveniment de tip “lebede negre”.

    Sornette mai spune că el și colaboratorii săi au ales cu atenție termenul de “Dragon-Rege”. “Mă refer la aceste evenimente excepționale ca “dragoni” pentru a sublinia că avem de-a face cu un animal complet diferit, dincolo de normal, ale cărui caracteristici extraordinare și a cărui prezență, dacă este confirmată, au o semnificație profundă.”

    Acești dragonii “reprezintă evenimente extreme care constituie o clasă proprie. Sunt speciale”. Reprezintă valori extreme “și, poate, cel mai important, spre deosebire de lebedele negre,” ele sunt generate de mecanisme specifice care le pot face previzibile, posibil controlabile “.

    Conform distribuției de tip power law (f(x)=ax^-k)), evenimentele extreme sunt rare. Totuși, cercetarea lui Sornette sugerează că acest lucru nu este adevărat; o altă abatere de la ideea “lebedei negre”, care subliniază raritatea acestor evenimente. “Omniprezentă aparentă a acestor Dragoni-Regi în toate tipurile de seturi de date înseamnă că evenimentele extreme sunt mult mai probabile decât sugerează distribuțiile power law. Acesta este motivul pentru care am avut două sau trei crize financiare de tip o dată pe secol în doar ultimele două decenii.”

    Deoarece aceste evenimente sunt mult mai frecvente decât se credea inițial, înțelegerea modului în care se formează și, mai important, a modului în care pot fi prevenite, sunt de o importanță crucială. Sornette consideră că Dragonii ar putea fi cheia pentru a preveni o prăbușire financiară precum care a zdruncinat lumea de la sfârșitul anului 2008 și din care încă ne mai recuperăm astăzi.

    Pe scurt, spre deosebire de teoria Lebedelor Negre, cea Dragonilor-Regi consideră că generarea de mecanisme specifice face previzibile crizele financiare și, în cel mai bun caz, controlabile.

    În acest context, teoria Dragonului-Rege funcționează în principiu pe baza a două ipoteze:

    Ipoteza 1: Bulele financiare pot fi identificate în timp real

    Ipoteza 2: Sfârșitul bulei financiare poate fi evaluat folosind previziuni probabilistice

    Detalii:

    Sornette, D., 2009, Dragon-Kings, Black Swans and the Prediction of Crises

  22. zzz spune:

    mai e black swan daca specialisti in domeniu si domenii adiacente anticipeaza aparitia acestui fenomen cu ani inainte?
    atata conceptul de “AI – lebada neagra” cat si insusi conceptul de lebada neagra s-au banalizat si toata lumea vaneaza la saptamana cate o lebada neagra. ori, aceste fenomene, politice, economice, tehnice, climatice apar o data la cativa ani/decenii/secole si zboara under the radar.
    o paralela poate fi facuta cu pietele financiare unde un “contrarian” este cel care impotriva perceptiilor maselor(glaotei) ia o pozitie inversa si face bani gramada.
    cu toate ca aceasta se intampla doar la finalul unor lega trenduri cei mai multi participanti vor sa se creada contrarians.
    vor atat de mult incat s-a creat butafora “I’m a contrarian, just like everybody else”.
    aceeasi poveste si cu lebede legre in zilele noastre

    • Puteți numi 2 -3 „specialiști în domeniu și domenii adiacente” care au anticipat „cu ani înainte” atacurile de la 11 septembrie, apariția presei de tipărit, apariția Internetului, prăbușirea comunismului, scufundarea Titanicului, catastrofele de la Cernobîl și Fukushima Daiichi etc. etc. etc. ?

      Dacă reușiți, scrieți repede un articol cu un titlu-bombă, de pildă „Debunking the Black Swan Theory” și publicați-l în una dintre revistele de top, precum Nature or Science. Așa o să-l faceți de rușine pe impostorul Nicholas Nassim Taleb, care și-a permis să prostească toată lumea – cu excepția dumneavoastră!! – printr-o carte care a fost declarată de The Sunday Times ca fiind una din cele mai influente 12 cărți publicate după cel de-al doilea război mondial.

      Dacă nu reușiți, va trebui să mut comentariul dvs. la Gunoi, ca fiind lipsit total de cea mai mică valoare adăugată (condiție esențială de a publica pe Contributors)

    • baraka spune:

      e valid cumva ce zici. dar ca sa intre in contradictie cu ce zice taleb la punctul 3 (ca lebada neagra are doar o predictibilitate retrospectiva), trebuia sa fie prezisa o asemenea lebada. pe cand, in art, este postulata, ca si cand s-ar fi intamplat deja. acum tot ce-a mai ramas este sa-i convinga si pe restul.
      poate ca e o lebada neagra, dar nu e chiar ia-ul, piatra filosofala a epocii, cel usor de alaturat zborului interstelar, teleportarii. proababil ca includerea in clasa “miturilor”, a cazurilor limita pt o anumita perioada, o face si greu de identificat.

  23. baraka spune:

    aha, m-am prins cat de cat, sper ca nu o sa te dezamagesc, mai departe.
    nu discuti despre felurile de inteligenta, ci o vezi ca pe un soi de abilitate care si-a atins limitele, ca pe o unealta care poate sa faca doar un anumit tip de taskuri in mod eficient. doua intrebari imi trec prin cap:
    - cum evaluezi posibilitatile inteligentei (ca sa stabilesti outcomeurile de care vorbesti), avand in vedere ca sunt o gramada de intrebari deschise? apoi trebuie sa fii si capabil sa spui ceva despre corespondenta lor cu lumea fizica. (las deoparte problema de cum isi poate
    trasa inteligenta, de una singura, limitele)
    - sa pp ca ti-a reusit tot; si vezi o posibila impingere a acestor limite, doar printr-o confruntare cu alte entitati inteligente; altfel spus, numai asa mai e posibila o evolutie. imi pare prea inchisa pozitia. de ce interactiunea cu restul universului sa fie asa de nesemnificativa? parca ar fi doua lumi, lumea mare si fixa, unde inteligenta de la un punct incolo inseamna vax, si lumea mica, a noastra, care croieste probleme pe placul inteligentei.
    daca comprimi f mult pozitiile (toti oamenii si lumea lor devin un singur om, si lumea mare – exteriorul) vei ajunge la un om pentru care gandurile au relevanta doar pentru el si nu pot spune nimic despre orice altceva. cam nashpa, imho.

    • r2 spune:

      Nu ma grabesc nici eu sa pariez pe una din variante, dar zic sa ne uitam atent la exemplele din jurul nostru. Drosofila inteligentei artificiale a fost pana de curand sahul, abandonata intre timp in favoarea jocul de go, cum spune intr-un comentariu domnul Cranganu. Ambele sunt aplicatii din “lumea mica”, cumspuneti dvs. De ce nu ceva foarte complex din lumea “mare si fixa”, gen prognoza meteo, de exemplu? Necesita si aia multa modelare si enorm de multa putere de calcul, din cate inteleg.

      Ca sa disecam si noi putin drosofila si sa punem punctul pe i din a, unui program de sah sau go obisnuit ii trebuie doua lucruri ca inputs: 1. regulile jocului si 2. “knowledge” – reguli gen valoarea materiala a pieselor (la sah), importanta sigurantei regelui, piese active intr-un context vs piese inactive, puncte slabe in structurile de pioni etc. Din informatiile astea se poate construi o functie de evaluare cu ajutoru careia problema devine tractabila. Poti alege din n pozitii potentiale viitoare luate in considerare pe cea unde functia de evaluare arata rezultatul cel mai bun (presupunand ca si adversarul alege cea mai buna mutare pentru el cand este la mutare).

      Partea de machine learning este acolo in care ii dai algoritmului doar regulile jocului si il lasi pe el sa-si dezvolte sigur partea de teorie. Isi face el singur propria filozofie de joc incercand diverse idei intr-un numar enorm de partide. Se pare ca programul de go ne-a batut nu numai la jocul de go, dar si la teoriea jocului de go, asta de acum descoperind si implementand cu succes reguli de strategie inca necunoscute de oamen – cum spune si domnul Cranganu in articol

      Si acum intrebarea – de ce nu este prognoza meteo drosofila AI? Poate ca, in ciuda complexitatii evidente, ca si sahul este totusi o problema prea limitata in sensul important aici. Posibil sa nu ne ajute cu mare lucru sa incercam sa descoperim prin machine learning alta ecuatie baromtetrica, alta ecuatie a caldurii, alta termodinamica decat alea pe care le stim (sau ce or mai folosi ei pe acolo cand modeleaza fenomenele meteo). E posibil sa fie doar o problema de masuratori multe si exacte plus mult calcul brut, nu de subtilitati AI. Poate ne lamureste domnul Cranganu.

      Revenind la biologie, si acolo pot fi interesting clues. O idee interesanta este urmatoarea: “The social brain hypothesis was proposed by British anthropologist Robin Dunbar, who argues that human intelligence did not evolve primarily as a means to solve ecological problems, but rather as a means of surviving and reproducing in large and complex social groups.” Se pare ca marimea neocortexului la primate este corelata destul de exact cu marimea grupului in care traiesc, deci cu complexitatea relatiilor sociale.

      Si inca o intrebare pe final, la care nu incerc un raspuns. Ce fel de probleme de matematica ii framanta mai tare pe matematicieni, cele cu aplicatie concreta in lumea materiala?

      • Si acum intrebarea – de ce nu este prognoza meteo drosofila AI?

        Un posibil răspuns ar fi acela că evenimentele meteorologice sunt în principal un sistem haotic, cu o serie de caracteristice unice și în afara actualilor algoritmi AI:

        - comportament non-periodic și non-liniar;
        - sensibilitate la condițiile inițiale;
        - manifestări haotice extrem de dificil sau imposibil de prognosticat.

        Gândiți-vă doar la fluturele lui Lorentz, ale cărui bătăi din aripi în jungla amazoniană pot declanșa o tornadă în Texas.

        Mai adăugați și manifestările meteo ca fiind de tip fractal și veți avea un răspuns mai adecvat.

      • baraka spune:

        cine stie?, poate ca rezolvarea unui probleme extrem de dificile, cum este prognoza meteo, va spune ceva si despre inteligenta.
        dar intr-adevar, daca presupui ca masina nu va descoperi alte legi, vei ramana cu acelasi material pt calcul brut. insa trebuie sa arati asta: ca de la un punct incolo, sistemul este haotic si nimic nu-l poate “rezolva” decat insirarea tuturor instantelor. si da, nu va insemna, probabil, nimic pt IA.
        si, ca sa merg mai departe, daca arati ca, analizand restul de probleme chess like, vei ajunge tot la o comportare haotica, fara sa gasesti vreo lege noua, atunci vei bloca definitiv calea asta pt IA. cam asa iti inteleg pozitia si-s de acord cu ea in forma asta usor schimbata.
        cat despre ce spune tipul ala citat, nu-i stiu contextul. nu stiu cat de diferita e matematizarea unui joc gen go (sau eveniment fizic) de matematizarea unor relatii sociale. daca argumentul lui e ca astea din urma nu pot fi algoritmizabile, se cam termina discutia. dar cum am zis, speculez aiurea.

        • r2 spune:

          multumesc pentru raspuns. eu zic sa lasam cercetatorii care se ocupa de lucrurile astea sa manance si ei o paine :) propun sa ne oprim aici.

    • @baraka

      Mă bucur că prin întrebările pe care le-ați pus mi-ați ridicat o minge la fileu, minge pe care nu am strecurat-o în articol. Iat-o acum:

      Într-un articol publicat în 2013 în The Atlantic (The Man Who Would Teach Machines to Think) autorul celebrei cărți din 1979 Gödel, Escher, Back: An Eternal Golden Braid, profesorul Douglas Hofstadter (Indiana University) declară că a fost de la început interesat să înțeleagă mecanismele cunoașterii umane: „Depinde ce se înțelege prin inteligență artificială”. El este dezamăgit că cele mai excitante proiecte din AI-ul modern, chestiile pe care publicul le vede probabil că pietre de temelie pe drumul către o ficțiune științifică – precum Watson, ori Siri – au în realitate foarte puțin de-a face cu inteligența. Evident că, după exprimarea unei astfel de poziții, cercetările lui și ale echipei sale din Bloomington au fost imediat marginalizate de comunitatea AI care este interesată în rezultate imediate, produse vandabile și multe, mai multe date.

      Exprimându-și frustrarea, Hofstadter spune că ar vrea să întrebe de ce să cucerești o redută dacă nu există nicio perspectivă despre ce obții din victorie? ”OK, Deep Blue joacă șah foarte bine – și ce-i cu asta? Îți spune ceva despre cum jucăm noi șah? Nu. Îți spune ceva despre cum își imaginează și înțelege Kasparov tabla de șah? … Foarte puțini oameni sunt interesați să afle cum lucrează inteligența umană. Asta este ceea ne interesează – Ce este gândirea?”

      Pentru scepticii AI, articolul citat merită studiat cu creionul în mână.

  24. Constantin Crânganu Constantin Crânganu spune:

    The robot lawyers are here – and they’re winning

    Data viitoare, dacă doriți să angajați un avocat care să vă câștige procesul, nu ezitași să apelați la un avocat-robot!!!



Comenteaza:







Do NOT fill this !

Autor

Constantin Crânganu


Constantin Crânganu

Constantin Crânganu este profesor de geofizică și geologia petrolului la Graduate Center și Brooklyn College, The City University of New York. Domenii conexe de expertiză: int... Citeste mai departe


E randul tau

Cred ca masurarea performantelor prin tot felul de indicatori de tip contabil, simpli si usor de int...

de: r2

la "Manifest pentru refuzul unei obsesii moderne"

Cauta articole

noiembrie 2017
Lu Ma Mi Jo Vi Du
« Oct    
 12345
6789101112
13141516171819
20212223242526
27282930  

Valentin Naumescu – Marile schimbari. Crize si perspective in politica internationala. Editie bibliofila

contributors.ro

Contributors.ro este intr-o permanenta cautare de autori care pot da valoare adaugata dezbaterii publice. Semnaturile noi sunt binevenite cata vreme respecta regulile de baza ale site-ului. Incurajam dezbaterea relaxata, bazata pe forta argumentelor.
Contact: editor[at]contributors.ro

MIHAI MACI – Cel de-al doilea volum din Colectia Contributors.ro

"Atunci când abdică de la menirea ei, școala nu e o simplă instituție inerțială, ci una deformatoare. Și nu deformează doar spatele copiilor, ci, în primul rând, sufletele lor. Elevul care învață că poate obține note mari cu referate de pe internet e adultul de mâine care va plagia fără remușcări, cel care-și copiază temele în pauză va alege întotdeauna scurtătura, iar cel care promovează cu intervenții va ști că la baza reușitei stă nu cunoașterea, ci cunoștințele. Luate indi­vidual, lucrurile acestea pot părea mărunte, însă cumulate, ele dau măsura deformării lumii în care trăim și aruncă o umbră grea asupra viitorului pe care ni-l dorim altfel." - Mihai Maci

(An essay by Vladimir Tismaneanu and Marius Stan)