Home » Cultura »Educatie »Media / Tech »Opinie » Citesti:

Să facem, rapid, dreptate roboților

Vlad Niculescu-Dincă octombrie 18, 2018 Cultura, Educatie, Media / Tech, Opinie
15 comentarii 1,355 Vizualizari

Tehnologia a fost și este unul dintre cei mai importanți actori sociali, politici (și unii ar agumenta geologici și ecologici) din ultimele secole. Ar fi o recunoaștere să îi acordăm atenția cuvenită, cel puțin la fel cât vorbim, zilnic, despre politicieni și instituții. Problema este că suntem încă tributari unor cadre de gândire „tradiționale” despre tehnologie. Încă le concepem uzual ca pe niște scule, chiar și când ne raportăm la gadget-uri performante. Mai recent însă, spectrul răspândirii pe scară largă al roboților, vehiculelor autonome sau al algoritmilor inteligenți care iau decizii cu implicații majore în viața noastră, ne-a adus problema raportării la tehnologie în ograda proprie, cum s-ar spune.

Concepția standard dominantă fața de tehnologie este cea instrumentalistă în care tehnologia este un instrument neutru iar „noi” suntem cei care decidem ce facem cu ea. Iese bine, iese rău, utilizatorii poartă responsabilitatea. Șoferul care trece pe roșu, depășește viteza legală sau dă peste cineva este de vină, nu mașina. Vehiculul e neutru, cum s-ar spune. Ne unge pe suflet această viziune eroică și nobilă a omului responsabil dar pe măsură ce tehnologiile ne preiau din sarcini nu prea e sustenabilă. Când un algortim predictiv își alterează propriul cod și ia o decizie greșită îl mai putem trage la răspundere așa ușor numai pe șofer (direcția în care se pare că merge recent investigația din cazul accidentului cu un vehicul Uber autonom din Tempe, Arizona)? Si atunci, cum se distribuie responsabilitatea între dezvoltatorul software-ului, dezvoltatorul vehicului sau chiar Uber? Cum se împarte responsabilitea fată de evoluția ulterioară a noii entități în ecosistemul socio-tehnic? Încă nu e clar ce soluții vor fi date și dacă se vor relua testele dar tehnologiile devin din ce în ce mai mult agenți activi al cărui rol social nu îl mai putem gândi în paradigma instrumentalistă.

Celălalt discurs public dominant despre rolul tehnologiei în societate anunță, fascinat, minunatele beneficii ori implacabilele dezastre care „vor veni”. Aflăm că roboții „vor avea grijă de bătrâni” dar și că „vor purta războaiele viitorului”. Că vom comunica prin intermediul gândurilor având creierele conectate la calculator dar și că ne îndreptăm spre supravegherea absolută.

Prima variantă vede tehnologia echivalentă cu progresul. Cealaltă ca aducând sfârșitul lumii. Ambele cu viteză „exponențială”, ca un tren în plină viteză scăpat de sub control. Se disprețuiesc reciproc dar ambele sunt variante ale aceluiași determinism tehnologic (ideea conform căreia tehnologia este o forță care se dezvoltă îndependent de considerații etice și sociale și este principala determinantă a societății). Niciuna nu ne ajuta să conceptualizăm adecvat relațiile complexe și dinamice între noile tehnologii și tot felul de procese sociale, economice, politice. Și asta ne lasă ca societate într-o poziție perplexă în care condițiile devin arbitrare pentru a înțelege bine oportunitățile și a contracara riscurile asociate.

În ciuda anunțurilor comunicatorilor tehnologiei, studiile din domeniul istoriei tehnologiei au demontat de ceva vreme concepția fatalistă despre relația tehnologie-societate. Viitorul e notoriu de dificil de prezis. Cu atât mai mult cu cât avem variabile așa nebădăioase cum sunt tehnologia, societatea sau mediul. Și atunci de ce persistă acest vocabular și mod de a înțelege procesele dezovoltărilor tehnologice? Până la un punct poziția fatalistă fața de tehnologie e de înțeles. Ni s-a întâmplat tuturor – poate destul de des – să citim despre cine știe ce tehnologie (sau s-o vedem într-un film) și apoi, peste câțiva ani, să „apară” și pe strada noastră. Am văzut „Minority Report” în 2002 și acum aflăm că politiștii pot prezice unde și când va avea loc o crimă. Am văzut „I, Robot” în 2004 și acum aflăm că robotul companiei Boston Dynamics sare cu dexteritate peste obstacole.

Tehnologia capătă astfel o aură misterioasă a unei forțe care vine din afara societății și evoluează indiferent ce credem sau ce facem noi. Cum să putem noi atunci să o influențăm? În bine ori în rău, oricum le-am concepe? Ce ne mai rămâne atunci este ori să ne bucurăm, dacă putem, calmi, de comfort (aici ne seduce și pleiada de emisiuni, blog-uri și review-uri de tehnologie, fascinația presei pentru titluri senzaționale, domesticirea tehnologiei prin filme) ori să chibițăm „de pe margine” și să îi proiectăm frici (războaie, control, distrugere) sau speranțele pentru o societate mai bună (prosperitate, dreptate, integritate) pe care tehnologia le va aduce neîndoielnic.

Desigur, dacă ne apucăm să citim studii sociologice despre tehnologie am vedea că lucrurile nu stau chiar așa. Algoritmii predictivi din practicile de poliție nu sunt chiar așa de „deștepți”. Am vedea eșecuri lamentabile, nenumăratele erori, bug-uri jenante, zeci de variante încercate, patente care zac în sertare, dar și forțe politice și sociale care dau formă tehnologiilor. Am înțelege cât de ușor lucrurile ar fi putut-o lua în altă direcție.

Stând de vorbă cu programatorii, nici imaginea tehnologiei ca forță exogenă societății nu prea se susține. Multe din infrastructurile și sistemele noastre sunt concepute și implementate autohton. Ca fost programator în industria software românească pot da mărturie pentru nenumăratele discuții cu colegii, zeci de variante gândite, implementate și trase pe dreapta. Dezvoltarea tehnologiei este o activitate la fel de socială ca „ieșitul la o bere” cu colegii. Tehnologia este o parte a societății la fel ca și media, instituțiile publice sau politica.

Și atunci, ce ar înseamna să facem dreptate roboților?

În primul rând, am avea nevoie de un nou cadru conceptual. Tehnologiile sunt mai mult decât niște scule sau gadget-uri smart. Și dacă sunt deștepte, nu ar trebui atunci considerate ca atare, cu drepturile și responsabilitățile care decurg? Desigur, asta nu înseamnă să bagăm la închisoare un robot care produce o crimă sau să facem legi despre parteneriate civile între roboți. Dar putem să ținem cont de rolul social activ pe care îl joacă și astfel să fim mai pregătiți pentru potențialul disruptiv pe care îl pot induce.

Un alt progres ar fi să rezistăm tentației de a disprețui, reflex, pozițiile opuse între detractorii și promotorii tehnologiilor. Dacă zici de bine de tehnologie ești un „prost util”, dacă o critici ești „ludit”. O societate în care tehnologia își împlinește potețialul are nevoie și de critici și de inovație responsabilă. Exercițiile de reflecție critică față de tehnologie trebuie văzute ca o șansă. Tehnologia nu „prinde” într-o societate care nu acceptă un sănătos discurs critic.

În al treilea rând, dacă vedem că tehnologia este endogenă societății apare întrebarea cum putem să influențăm dezirabil forma și direcția de dezvoltare în România. Ar fi nevoie de mai multe studii de impact multidisciplinare și dezvoltarea de scenarii anticipative care să țină cont de impactul disruptiv al tehnologiilor, fie că vorbim de țesutul social local, fie că vorbim de mediu. Asta ar înseamna pregătirea și promovarea unei generații de ingineri și antreprenori cu o amplă anvergură intelectuală și capacitate de reflecție.

În fine, ar mai fi util să încercăm să ieșim din false dileme și dihotomii și să ne angajăm, creativ, în design sensibil la valori. Un exemplu cunoscut: vrem să promovăm un stil de viața sănătos prin mersul cu bicicleta dar vrem și siguranță în trafic. Simultan. O soluție creativă a fost în Olanda (și ne străduim să îl implementăm și noi) să separe fluxurile, făcând benzi separate pentru biciclete, vehicule, transport public și pietoni. Alt exemplu din Olanda: poduri speciale pentru animale care leagă două zone din habitatul lor care au fost separate de o autostradă. Chiar dacă noi trebuie să facem mai întâi autostrada, de ce nu am gândi soluții similare care să lase loc vehiculelor autonome și în același timp să ofere siguranță pietonilor? Cu alte cuvinte, dacă revoluția tehnologică tot vine în viteză, ar fi cazul să facem repede măcar bordurile (la asta ne pricepem) și pasarelele că să nu dea peste noi.


Ai informatii despre tema de mai sus? Poti contribui la o mai buna intelegere a subiectului? Scrie articolul tau si trimite-l la editor[at]contributors.ro



Currently there are "15 comments" on this Article:

  1. mike spune:

    “Desigur, asta nu înseamnă să bagăm la închisoare un robot care produce o crimă….” ok, insa cine se face vinovat in cazul in care acel robot a fost programat sa produca o crima, atunci cand sunt implinite anumite conditii care pot declansa aceasta actiune?
    Totusi, nu sunt convins ca lumea ar avea nevoie de o multitudine de tehnologii care sa inlocuiasca complet abilitatile umane. Tehnologiile ar trebui sa ne completeze si sa ne ajute, insa nu sa ne inlocuiasca. Daca exista un domeniu in care tehnologiile ar trebui sa se dezvolte din ce in ce mai mult, si eventual sa inlocuiasca o parte a activitatilor, acela ar fi medicina.

    • ion spune:

      Un robot il poti corecta usor daca e o problema, un om il poti corecta? In cateva generatii el poate deveni mult mai bun ca un om care periodic uita, iar urmatoarea generatie pana invata nu mai apuci sa traiesti.

      Eu cred ca pista care spune ca trebuie sa gandim inainte ce impact are sa avem niste super oameni care sa gandeasca e falsa, e identica cu acei care doreau economie planificata si au nimicit milioane de oameni sa o implementeze.

      Nu poti sa stii niciodata cum va fi utilizat si incotro va evolua un produs. Care a facut ceva in viata lui, stie ca utilizatorii pot fi foarte inventivi, nici nu te gandesti, in afara de aceasta se schimba si contextul utilizarii, mediu deci implicatiile nu le poti prevedea nici atat.

      Trebuie pur si simplu sa lasam sa curga, fiindca oricum va curge vrem noi sau nu vrem.

      Acei care lauda bicicletele in olanda, va rog mergeti cateva zile si utilizati orasul ca pieton, e mult mai rau decat in cazul masinilor, nu poti trece practic strada, am vazut cateva accidente sau sicane pe zi cu biciclistii. Totul trebuie facut cu masura. Cateva zile in urma ziceau ca numarul de adresari la spital legate de trotinete in paris s-a marit cu 30% intr-un an, cauzele sunt diverse, dar e un inceput, daca continua asa va fi o catastrofa. Eu as zice ca trebuie luat si niste masuri suplimentare, nici sa dai inapoi, trebuie corectate problemele, incercat diferite solutii, alta cale nu este.

  2. Cristian Felea Cristian Felea spune:

    Un guvern de roboți m-ar liniști mai mult decât guvernul Dăncilă.
    Și zău așa, de ce nu am fi noi prima țară guvernată de niște roboți eficienți și fără predispoziție la corupție?

    • ion spune:

      O guvernare cred ca s-ar automatiza destul de usor, nici nu e nevoie de inteligenta artificiala, 80% din ministere, agentii, trezorerii sunt simple registre si contabilitate, management de documente.

  3. DanielS spune:

    Inteligenta artificiala (algoritmii de invatare) nu se aseamana cu nimic din aventura omeneasca, cu exceptia mintii biologice. Dar si aceasta asemanare va fi repede depasita, intrucat mintea biologica este emergenta din resurse naturale foarte limitate. Pe cand inteligenta artificiala are resurse nelimitate de emergenta si perfectionare, incluzand nu doar suportul fizic (curand acesta ar putea fi chiar biologic!), ci intreaga societatea care o genereaza.

    Inteligenta artificiala va fi mereu, fara exagerare, echivalenta magiei. Nu este vorba numai despre faptul ca algoritmii de invatare promoveaza competitia intre algoritmi intamplatori. Dar cu siguranta nu va fi eficienta imitarea algoritmilor intamplatori prin logica riguroasa (clasica). Mai degraba logica riguroasa si cea intamplatoare (inteligenta artificiala) se vor inlantui perfectionandu-se reciproc. Fiecare logica are nevoie de serviciile celeilalte. Ca sa nu mai pomenim de informatica cuantica, ca suport informatic pentru inteligenta artificiala. Rezultatul seamana mai mult cu divinitatea decat cu universul real.

    Inteligenta artificiala este din start mai mult decat toata aventura stiintifica si tehnologica a umanitatii, adunata la un loc cu toata cultura, toate povestile, filmele si produsele cuturale din toate timpurile. Toate conceptele noastre vor intra in umbra inteligentei artificiale. Repede.

    O vreme am crezut ca esenta istoriei civilizatiei este simbioza dintre om si tehnologie. Dar intuitiile filozofice ale inteligentei artificiale au zguduit lumea stiintifica. Nu mai cred ca omul a fost vreodata important in istorie, iar asta nu e deloc trist. Pentru ca intregul univers, cu intreaga sa istorie si intregul viitor, par a fi un algoritm de invatare, in nesfarsita perfectionare, intr-o viziune mutivers in care termenii de endogen si exogen sunt si acestia emergenti, adica nu mai au sens matematic.

    • Harald spune:

      Da. La fel cum excavatoarele se duc să-și cumpere singure motorină, că altfel intră în depresie dacă nu pot continua să sape gropi, inteligența artificială va învăța nu doar să-și pună singură ștecherul în priză, ci își va construi de una singură chiar și hidrocentrale.

      În zilele noastre inteligența artificială e un maare balon de săpun, iar în următorii 30-50 de ani nu va fi capabilă să concureze nici măcar cu un câine, cu un delfin sau cu o caracatiță. Însă e adevărat ca va face baloane de săpun din ce în ce mai mari :)

      • DanielS spune:

        Stim draga. N-ai gasit informatii nici despre AI. Sau ai gasit dar majoritatea sunt informatii false si exagerari promovate de extremisti, de obicei tot aia care promoveaza sectorul regenerabil. Stim filozofia asta. De aceea Harald te desemnez Cavaler al Adevarului Stiintific si Tehnologic. Pasiunea si inspiratia fie cu tine! Amin.

        • Harald spune:

          În niște cabinete de psihologie / psihiatrie din România ar fi mare nevoie de inteligența asta artificială. Pentru că etica lipsește cu desăvârșire: unii se fac psihologi doar ca să-și înțeleagă propriile disfuncționalități, iar alții ca să învețe tehnici de manipulare.

  4. Omics spune:

    Inteligența artificială este o simplă metaforă. Adică puterea de calcul este comparată cu inteligența umană. Dar rămân două lucruri diferite. Cine nu înțelege o metaforă va fi depășit într-adevăr de calculator.

    • DanielS spune:

      Inteligenta artificiala sau algoritmii de invatare sau neural network, sunt una si aceeasi chestie, o parte stricta a magiei. In sensul ca nu se poate descifra logica acestor algoritmi, pentru ca NU e logica. Desi putem elabora arhitecturi de start mai mult sau mai putin inspirate pentru sistemele AI, totusi arhitectura finala se auto-elaboreaza pe ea insasi.

      Asemanarea cu inteligenta omeneasca este tulburatoare. Nu e o metafora. E o revolutie in desfasurare.

      • Omics spune:

        Adică un program care își completează propriul algoritm în “use mode”, algoritm necunoscut în faza de “design mode”. Dar după aceste completări, algoritmul final devine unul “clasic”.
        https://en.wikipedia.org/wiki/AI_effect

        Adică un algoritm de preluare de algoritmi. Tot un algoritm. Există de mult timp sisteme de asocieri program-programator, în care programatorul tot modifică algoritmul de la caz la caz (un program mereu single-use). Inteligența artificială este o definitivare de algoritm prin interfață de către expertul-user (sau alte surse de date), nu prin codul de program. În domeniul integrării de date (extract-load-transform) se practică și programare continuă și “adaptarea de către user” (adică inteligența artificială).

        Totuși eu nu mă refer la gândirea algoritmică atunci când vorbesc de gândirea omului care nu poate fi preluată de calculator. Cine știe psihologie nu admite ca realitate “inteligența artificială”.

        • DanielS spune:

          Algoritmul poate fi genial, poate imita pana la un punct inteligenta artificiala, dar nu poate depasi conditia de calculator, de logica matematica. Poate fi foarte complicata logica, dar este inca logica. Categoric algoritmul in sens clasic face parte strict din sfera stiintei.

          Revolutionara este insa inteligenta artificiala, “algoritmii” de invatare ai retelelelor neuronale. De fapt si astea se numesc artificial neural network. Iar folosirea termenului de algoritm este abuziva pentru algoritmii de invatare. Nu putem spune despre Alpha Go Zero ca este un algoritm, pentru ca nu este . A invatat sah singur in 4 ore mai bine decat versiunea sa anterioara, care a invatat luni de zile asistat de om, si care deja zdrobise la sah campionii umani.

          Nu putem spune despre “algoritmii” de recunoastere prin invatare a imaginilor cu caini (de exemplu), ca sunt algoritmi in sensul clasic. Este vorba efectiv despre inteligenta, este artificiala si deocamdata poate surclasa mintea umana doar in sarcini foarte specifice, limitate. Ca sa inveti un concept, imaginea conceptului de caine, pare atat de usor pentru mintea omeneasca, totusi nu exista algoritm clasic care sa poata lamuri acest concept. Numai inteligenta omeneasca si inteligenta artificiala, numai retelele neuronale, ale creierului sau artificiale, pot elabora “gandirea” in straturi si concepte. Iar logica clasica, oricat ar fi de frumoasa, nu va putea invata niciodata concepte. Niciodata nu vom putea elabora schema logica a conceptului de imagine a unui caine.

          • DanielS spune:

            Scuze, am scris de sah. Dar Alpha Go joaca bineinteles go.

          • Harald spune:

            La șah sau la go există reguli clare care limitează drastic libertatea de decizie. Acolo nu e vorba de inteligență, e vorba de capacitate brută de calcul. În schimb, o pereche de coțofene care aleg crenguțe din care construiesc gălăgioase cuiburi false prin copaci (cu aspect evident de machetă ieftină, în comparație cu cuibul real, construit în liniște) sunt la un nivel de inteligență pe care cea artificială nu-l va atinge în secolul actual.

          • Harald spune:

            Nici măcar la oameni, recunoașterea imaginilor cu câini nu se încadrează cu-adevărat la inteligență. După mii de experiențe în decursul vieții, bazate pe trial and error (”ăsta e câine, ăsta nu e câine”, ”asta e vulpe, nu câine”, ”ăsta e șacal, nu câine” etc.) omul învață să recunoască în imagini un câine cu o probabilitate acceptabilă.

            Un sistem automat poate condensa acele câteva mii de experiențe umane în doar câteva ore, poate obține un scor mai bun decât mulți oameni, însă asta nu-l face să fie inteligent. Inteligent o să fie abia atunci când va evita o interacțiune cu acel ”câine” dându-și seama că de fapt era lup. Chiar dacă, ”technically speaking”, era tot câine. I’ve been there :)



Comenteaza:







Do NOT fill this !

Autor

Vlad Niculescu-Dinca


Vlad Niculescu-Dincă

Dr. Vlad Niculescu-Dincă predă și cercetează în Haga la Institutul pentru Securitate și Afaceri Globale din cadrul Universității Leiden, Olanda. Și-a susținut doctoratul ... Citeste mai departe


E randul tau

Am reținut doar că la toamnă sînt alegeri în Facultatea de Filosofie, Universitatea București....

de: Luminita Marcu

la "Drept la replică. Romulus Brâncoveanu: Domnul Liiceanu în cârje literare "

Carti recomandate de Contributors.ro

DEMOCRAȚIA SUB ASEDIU ROMÂNIA ÎN CONTEXT REGIONAL

Carte recomandată de contributors.ro

Festival de Film

Cauta articole

iunie 2019
Lu Ma Mi Jo Vi Du
« Mai    
 12
3456789
10111213141516
17181920212223
24252627282930

contributors.ro

Contributors.ro este intr-o permanenta cautare de autori care pot da valoare adaugata dezbaterii publice. Semnaturile noi sunt binevenite cata vreme respecta regulile de baza ale site-ului. Incurajam dezbaterea relaxata, bazata pe forta argumentelor.
Contact: editor[at]contributors.ro

MIHAI MACI – Cel de-al doilea volum din Colectia Contributors.ro

"Atunci când abdică de la menirea ei, școala nu e o simplă instituție inerțială, ci una deformatoare. Și nu deformează doar spatele copiilor, ci, în primul rând, sufletele lor. Elevul care învață că poate obține note mari cu referate de pe internet e adultul de mâine care va plagia fără remușcări, cel care-și copiază temele în pauză va alege întotdeauna scurtătura, iar cel care promovează cu intervenții va ști că la baza reușitei stă nu cunoașterea, ci cunoștințele. Luate indi­vidual, lucrurile acestea pot părea mărunte, însă cumulate, ele dau măsura deformării lumii în care trăim și aruncă o umbră grea asupra viitorului pe care ni-l dorim altfel." - Mihai Maci

(An essay by Vladimir Tismaneanu and Marius Stan)