Home » Media / Tech » Citesti:

Errare robotum est

Mihai Badici iulie 4, 2015 Media / Tech
43 comentarii 1,431 Vizualizari

O ştire mi-a atras atenţia zilele trecute: într-o uzină a Volkswagen, un muncitor a fost ucis de un robot. Formulat astfel, întâmplarea sună ca o scenă dintr-un film gotic SF , în care roboţii se răzvrătesc împotriva oamenilor.

Evident, realitatea este „ceva” mai simplă. În timpul montajului, robotul l-a lovit pe tehnician de o placă metalică iar forţa impactului a fost mult prea mare pentru ca tehnicianul să supravieţuiască.

Roboţii industriali din vremea noastră sunt nişte maşinării destul de simple , care funcţionează pe baza unui program cu un număr redus de mişcări.  Nici nu văd cum ar putea fi altfel într-o uzină de automobile, atâta vreme cât chiar şi muncitorii umani, pe baza principiilor benzii rulante inventate de Ford, sunt antrenaţi să execute acţiuni la fel de simple, atât de plastic ilustrate de filmul lui Chaplin „Timpuri Moderne”.

Roboţii androizi sunt interesanţi. Firmele de tehnologie se străduiesc să construiască astfel de aparate pentru diversele expoziţii  Bineînţeles, rolul lor într-un SF, atunci când este bun, e să ne ofere un prilej de meditaţie asupra condiţiei umane, la fel ca prinţul persan din scrisorile lui Montesquieu. În vremurile noastre, Persia nu mai e suficient de exotică, e nevoie să ajungem în spaţiu pentru a putea avea o bună perspectivă asupra valorilor omenirii.

Deocamdată însă industria nu prea are nevoie de androizi. Pentru ce ar vrea cineva să construiască o maşină atât de imperfectă cum este omul? Tehnologia are nevoie mai degrabă de specializare: de câte braţe e nevoie să sudezi caroseria? Exact atâtea va avea maşina. Ce senzori sunt necesari pentru a controla procesul? Nu vom găsi nimic în plus la robotul nostru; cel mult ceva senzori de ambient care să dea alarma dacă începe vreun incendiu sau vreo componentă se supraîncălzeşte.

Sigur că afirmaţia de mai sus se cere întrucâtva nuanţată: maşinile trebuie să aibă totuşi o oarecare flexibilitate, pentru a putea produce mai multe modele; roboţii sunt destul de scumpi pentru a fi schimbaţi o dată cu modelul de automobil produs; însă această flexibilitate este limitată la acelaşi tip de operaţie.

Deci deocamdată ştirea noastră nu este o ştire. Nefericitul tehnician s-a găsit în calea unei maşinării care nu vede, nu aude şi se mişcă conform unui program. Probabil cineva a greşit, ori cu instrucţiunile de montaj, ori  în software (ancheta e încă în curs) sau chiar victima nu a respectat cerinţele. Utilajele nostre, chiar dacă au microprocesor, sunt încă utilaje; anual pe şantierele de construcţii avem victime strivite de maşini care nu devin ştiri decât cel mult pentru programele de la ora cinci.

Totuşi, chiar dacă nu este o ştire, într-un oarecare viitor ar putea să devină. Am scris mai demult despre maşinile cu şofer automat. Funcţionarea acestora este mult mai complicată şi, lucru important, presupune o interacţiune cu factorii externi. Avem de-a face cu un robot construit pentru a răspunde la stimuli din mediul exterior; aici discuţia despre răspundere are sens ( e posibil să descoperim şi dincolo o răspundere, dacă de exemplu programatorul nu a luat măsuri să iniţializeze unele variabile la pornire şi braţul robotic ar putea executa mişcări aleatoare pe parcursul restartului, dar asta este o eroare destul de banală şi remediabilă)

E posibil ca utilizarea unor astfel de roboţi „universali”, interactivi,  să se extindă în viitor, nu neapărat în mediul industrial, unde probabil maşinile specializate au un frumos viitor în continuare, ci în zona serviciilor sau în alte zone pe care nu le putem desluşi acum. Poate fi învinovăţită Andreea, ghidul digital interactiv de la Vodafone (parcă aşa o cheamă), pentru pierderea unui contract?  Chiar dacă nu poartă fustă, funcţionează şi ea pe baza unui algoritm de decizie relativ complex; de la o complexitate încolo (încă nu e cazul ei) probabil că va trebui să ne asumăm ca algoritmii folosiţi să nu mai fie strict determinişti, deci să producă uneori erori. Abia când algoritmii nu  mai sunt determinişti lucrurile încep să se complice ( nu e ceva SF, probabilitatea ca, de exemplu, camerele care verifică rovigneta să identifice greşit numărul dvs de înmatriculare este reală; deocamdată nu am auzit de asemenea cazuri, probabil pentru că vorbim de produsul a două probabilităţi mici, probabilitatea de eroare de identificare înmulţită cu cea ca numărul greşit identificat să nu fi plătit el însuşi rovigneta, ceea ce duce la o probabilitate foarte mică de apariţie a unei probleme – în cazul în care un neplătitor este identificat greşit ca plătitor nu va fi nici o plângere, bineînţeles ).  Dar, ca să mă păstrez în cadrul exemplului anterior, există o probabilitate de  o milionime ca maşina mea abandonată de zece ani în faţa blocului să fie identificată greşit ca circulând pe Autostrada Soarelui către Constanţa, şi să primesc o amendă acasă. Cine a greşit? Robotul. Cum nu putem să îi tăiem din salariu (iar a-l scoate din priză nu pare o pedeapsă validă) iată că am ajuns la dilema răspunderii, cu tehnologia de azi, nu de mâine .

Iar din această dilemă, cel puţin deocamdată, nu putem ieşi…. Errare robotum est.

Ai informatii despre tema de mai sus? Poti contribui la o mai buna intelegere a subiectului? Scrie articolul tau si trimite-l la editor[at]contributors.ro



Currently there are "43 comments" on this Article:

  1. Stelian Ene Stelian Ene spune:

    Un dispozitiv indiferent cât de complex sau non-determinist nu poate avea vinovăție din simplul motiv că aceasta, alături de concepte conexe ca răspunderea și pedeapsa, sunt evoluții sociale menite să modeleze comportamentul indivizilor raționali, care trebuie să anticipeze și să preîntâmpine efectele nefaste asupra semenilor.

    Discuția capătă substanță în ipoteza apariției unor mașini raționale, cu o putere de discernământ comparabilă sau care o excede pe cea umană. Chiar și așa, înainte de avea vinovăție trebuie să existe drepturi, trebuie ca entitatea inteligentă non-umană respectivă să fie recunoscută ca membru al societății și al contractului social. O maimuță, chiar dacă e semi-rațională și formulează planuri violente împotriva celor din jur, nu e vinovată de acțiunile ei; ci dresorul care i-a lăsat mitraliera pe mână.

    • Vlad spune:

      Va salut si va multumesc ca existati si ganditi!

      Singura putere de discernamant o are viata constienta.

      Pentru a avea calitatea de a vietui constient prima data trebuie sa existi. Intrarea in existenta se face prin nastere. Constiinta este o calitate a existentei.

      Nasterea in cazul oamenilor este rezultatul maturizarii celulei rezultate in urma fecundarii dintre gametul barbatesc si gametul femeiesc si expulzarii din mediul in care s-a dezvoltat care este, deocamdata, mediul intrauterin.

      Ca un side note … oamenii isi pierd capacitatea de a se raporta la realitate in chiar si cele mai banale moduri cu rezultatele care se vad. Altfel spus se prostesc …

      • pehash spune:

        “viata constienta” are o definitie atat de clara?..
        ovulul fecundat “in vitro” nu duce tot la o forma de viata? daca in viitor vom avansa la urmatorul nivel – embrionul uman crescut “in eprubeta” pana la capat, nu tot o forma de viata ar fi? si daca materialul sau genetic a fost modificat, nu ramane o forma de viata constienta?
        tehnic, avem deja posibilitatea de a mima capacitatea de calcul a unui creier uman. cand vom reusi sa deslusim si algoritmii si vom crea programe care se comporta identic omului, putem spune cu certitudine ca acestea sunt la fel de constiente ca un om. mai conteaza daca programul se alfa intr-un cub fara nas, ochi si urechi?.. nu va fi tot o forma de “viata constienta”?

        • Vlad spune:

          Viata constienta nu are o definitie … Definitia e o constructie lingvistica cu rol descriptiv. Viata constienta cand isi gaseste expresia prin actiunile unui om, poate in functie de context, sa foloseasca constructii lingvistice in conversatii cu alti oameni sau ca parte a transferului de cunostinte. Definitiile pot servi in contextul acestor constructii lingvistice pentru a clarifica sensul si scopul unor termeni relativ la un context dat, pentru a evita confuziile.

          Am omis sa spun unde este fecundat … da, se poate fecunda in vitro dar se dezvolta intra uterin.

          Nu stim cum vor evolua lucrurile pe viitor in ce priveste dezvoltarea.

          O forma de viata nu este neaparat o forma de viata constienta … Pentru formele de viata create de om … omul poarta responsabilitate procesului de creatie … Cam la fel ca si pentru un copil … Daca modificarile pe care omul le aduce au un impact … omul nu poate sa spuna … treaba lor … pentru ca nu e treaba lor … Chiar si in ce priveste urmasii avem responsabilitati in directia asta … actiunile din timpul vietii, se transmit urmasilor …

          Nu va fi … masinile nu pot fi forme de viata constiente … Nici macar organismele genetice … nu putem anticipa in ce directie se vor dezvolta …

          Un om care are dubii sau certitudini ca o masina are constienta este intr-o stare de inconstienta … Omul inconstient care creeaza masini pe care le presupune constiente … in primul rand nu face o legatura cauzala intre procesul de creatie si efect. Vina nu ii apartine in cazul in care robotul “decide” si “greseste”.

          Fiintele vii sunt cele care au macar o celula si care nu pot fi inchise si deschise. O fiinta vie cand este “inchisa” spunem ca a murit. Robotii oricat de avansati ar fie ei pot fi inchisi si deschisi. Un robot care nu ne lasa sa-l inchidem … va lucra impotriva noastra … Eu personal nu doresc asa ceva …

          • pehash spune:

            Daca nu puteti defini viata, cu atat mai putin viata constienta, pe ce baza afirmati ca “masinile nu pot fi forme de viata constiente”?
            Motto-ul site-ului este “texte cu valoare adaugata”. Hai sa facem un efort..

            • Vlad spune:

              Dumnevoastra sunteti o forma de viata … Viata care se desprinde de forma spunem ca a capatat o calitate in plus: constienta. Desprinderea de forma inseamna o intelegere obiectiva a vietii ca existand si in alte forme. Identificarea cu forma este un grad de inconstienta. Cu cat identificarea e mai stransa cu atat gradul de inconstienta e mai mare. Totul in Univers are un grad de constienta: pietrele, plantele, animalele, oamenii. Cu cat fiintele sunt mai constiente cu atat gradul lor de libertate intr-o perioada de timp este mai mare. Piatra are un grad de libertate foarte mic, planta un pic mai mare, animalul si mai mare si omul mai mare decat animalele. Omul de exemplu are libertatea de a alege, de a invata … O masina care ar avea capacitatea sa aleaga … ar putea in esenta sa o faca in detrimentul oamenilor … Pentru a avea capacitatea de a alege, cei care o fac trebuie sa-i confere aceasta functie. Calculatoarele decid in functie de algoritmi. Schimband algoritmii programelor se schimba si deciziile. Capacitatile decizionale ale omului au in componenta lor factorii biologici, de mediu, cunostinte, maturitate, evolutie. Eu am lucrat cu programe “inteligente” ale caror decizii nu sunt conforme in proportie de 99%. Eu vreau sa am control deplin asupra masinii. Un robot care are libertatea de a alege poate sa interfereze cu libertatea mea de a alege, drept pentru care e posibil sa fiu nevoit sa-l dezafectez sau distrug. Robotii au monentan proprietari, oamenii, acolo unde s-a abolit sclavia, sunt liberi. Un robot fara proprietar nu il absolva de responsabilitate pe cel care a facut posibila, direct sau indirect, aparitia lui.

    • Vlad spune:

      Creatiile care rezulta in urma unui proces mai mult sau mai putin deliberat, in functie de gradul de constiinta al participantilor, al oamenilor, chiar si cele vii, cum ar fi incrucisarile intre diverse specii de plante sau animale poarta in ele limitele cunoasterii umane. Produsele pot fi mai sigure, mai putin sigur si pot include unelte, masini, software, produse biologice. De asta de exemplu telefoanele mobile au facilitatea de a putea efectua un emergency call chiar si fara acces sau abonament activ. Daca bancomatul nu te avertizeaza cate incercari de a introduce PIN-ul mai ai, tinand cont ca incercarile esuate se numara consecutiv, independent de bancomat, si cardul e blocat cand banca e inchisa … cine poarta responsabilitatea consecintelor ? Daca produsele modificate genetic pe care omul vrea sa le produca vor afecta iremediabil ecosistemele cine poarta responsabilitatea ? Daca produsele modificate genetic afecteaza fertilitatea oamenilor in cateva generatii cine poarta responsabilitatea ? Daca produsele alimentare cu aditivi si chimicale omoara tacit prin infometare treptata sau imbolnavesc oamenii cine poarta responsabilitatea ?

      • iosiP spune:

        ” Daca bancomatul nu te avertizeaza cate incercari de a introduce PIN-ul mai ai, tinand cont ca incercarile esuate se numara consecutiv, independent de bancomat, si cardul e blocat cand banca e inchisa … cine poarta responsabilitatea consecintelor ?”

        Prostul care si-a uitat PIN-ul, desigur! :)
        Utilizarea facilitatilor vine cu responsabilitatea cunosaterii: esti incapabil sa “gestionezi” un PIN, tine-ti banii la ciorap.

        • Vlad spune:

          Pai cam asta spun si eu … e invariabil a mea. Eu trebuie sa-mi intrerup activitatile, sa-mi reorganizez programul, sa suport consecintele, in timp ce masina … era cat pe ce sa o personalizez si sa zic ca functioneaza. Dar functioneaza e un atribut dat de oameni pe care un om, in functie de niste cunostintele pe care le-a dobandit si a unui ansamblu situational intr-un context dat poate sa-l defineasca si evalueze. Masina sau robotul face doar ceea ce a fost pus sa faca de un alt om … Daca un om a intrat si a schimbat un program sau o interfata de utilizator, de exemplu gandindu-se special la mine, atunci ar fi putut de exemplu sa-mi dea un numar nelimitat de incercari, sa-mi ofere posibilitatea de a folosi un PIN care sa nu fie format neaparat din 4 cifre ci sa aiba o alta forma … si asa mai departe … La fel daca bancomatul, e schimbat de oameni cu una mai avansata, care are capacitatea sa ma urmareasca prin oras sau sa se departeze daca i se pare ca vreau sa scot bani … sigur ca trebuie sa ma gandesc la cine a avut ideea nastrusnica sa o fabrice si sa o puna in functiune.

      • iosiP spune:

        Pe o nota mai serioasa insa, raportul dintre “false positives” si “false negatives” este inca o problema controversata, la fel cum este si responsabilitatea bancii in caz de “false positive”: orice sistem de acces trece printr-o faza de testare si ajustare, in incercarea de a multumi pe toata lumea (desigur, rezultatul este cel clasic, anume ca nu multumeste pe nimeni).

  2. Harald spune:

    Accidente de muncă au existat întotdeauna și vor continua să existe. Sigur, într-o țară ca România, isteria justițiară ar putea ajunge până la nivelul la care DNA-ul să se ocupe de cei care au realizat algoritmul și/sau programul folosit de robot. Însă în țările normale nu merg lucrurile așa.

    Mașinile fără șofer nu sunt cea mai bună comparație fiindcă ele își propun să se descurce liber pe drumurile publice (care au un anumit statut juridic). Un robot într-o uzină nu are libertatea unei mașini fără șofer și nu se află într-un loc public (juridic vorbind).

    Androizii vor fi necesari într-o altă fază a dezvoltării umane, probabil când vor apărea primele exploatări miniere pe Marte sau pe asteroizi. În loc de excavatoare-robot, buldozere-robot și dumpere-robot, e mult mai simplu și mai ieftin de folosit androizi care să le conducă pe cele deja cosntruite pentru a fi conduse de oameni. Dar asta într-un mediu liber, necontrolat, unde nu se știe în ce direcție vor continua excavațiile peste 6 luni. În cazul unui tren automat, de exemplu, nu va fi niciodată nevoie de un android care să-l conducă pentru că mediul lui e complet limitat la șinele pe care se deplasează. Iar trenul automat va putea omorî oameni ajunși în calea lui.

    • Mihai Badici Mihai Badici spune:

      Asta cu DNA-ul chiar m-a amuzat: nici o clipa nu m-am gandit ca un robot ar putea fi anchetat pentru coruptie, dar probabil ca primul robot şpăgar la noi la Politehnică va fi construit :)
      Am prezentat masinile fara sofer si camerele care verifica rovigneta tocmai prin opoziţie cu roboţii industriali care funcţionează după un program clar. Mă gândesc că e puţin probabil ca viitorii roboţi multifuncţionali să semene cu niste oameni; de fapt nu sunt multe situatiile in care trasaturi umanoide ar putea fi utile ( de exemplu picioare in loc de roti, pentru teren accidentat,). Mai degrabă estetica să ceară asta decât necesitatea.

    • donquijote spune:

      Dupa 40 de ani in “campul muncii” pot sa zic ca in majoritatea covarsitoare a cazurilor, chiar “mortu’ e de vina” desi asta e un adevar greu de acceptat emotional. Mai este si responsabilitatea celui care l-a trimis acolo dar, in general accidentele se intampla din cauza ca victima, sau altcineva, a ignorat cel putin o parte din riscuri, nu conteaza motivele. In niciun caz nu putem da vina pe masina, ar fi prea simplu.
      Exista si posibilitate ca masina sa fi fost construita prost dar, masinile care pot deveni periculoase sunt verificate printr-un algoritm supravegheat birocratic (cei care lucreaza efectiv vor spune ca este excesiv birocratic). Birocratia este in sine un mecanism care urmareste sa dilueze reponsabilitatea chiar cu riscul de a bloca un sistem din motive care seamana cu drobul de sare. Asa se face ca este mai degraba posibil sa nu fie pusa in lucru o masina daca exista suspiciuni, chiar imaginare. Asta in lumea buna . Nu se aplica in tara lui Dorel “las ca merge si asa” … nu despre asta este vorba.
      Responsabilitatea proiectantului masinii este limitata, in cazul unui accident de genul acesta, la faptul ca nu a prevazut toate avertizarile posibile. “Feriti raza de actiune a macaralei!” Poate fi acuzat iar el se va apara spunand ca a respectat ISO… si EN…
      Situatia se complica in cazul unui sistem autonom, cum ar fi automobilul care se conduce singur. Este de discutat, dar pana una-alta responsabilitatea trebuie sa revina omului, macar fiindca patroneaza acea masina, care devine o prelungire a vointei lui.
      Daca se vor crea roboti androizi carora sa li se transfere responsabilitatea ca persoane umane, mai ramane de vazut. Lasand la o parte literatura SF, rostul practic al aspectului uman pentru aceste masinarii ar fi greu de justificat, in afara de performanta tehnica privita ca scop in sine. Asa cum a scris aici si d-l Badici, un robot este “ceva” care trebuie sa indeplineasca cu precizie, mereu identic cu sine si fara sa oboseasca, o functiune cuantificabila, oricat ar fi de complexa si, de regula nu are nevoie de aspect uman, ba chiar aspectul sau formatul uman sunt dezavantaje.
      Nu ne imaginam robotul telefonic ca o masina cu format uman care ridica receptorul si vorbeste in microfon; deja stim cu totii ca este un program intr-un microprocessor, care poate fi adapostit oriunde, fie in telefonul meu, fie la operatorul retelei… Putem sa ni-l imaginam ca vine cu pas grabit, din bucatarie unde facea o omleta, ca sa raspunda la telefon ?…
      Asta nu inseamna ca nu sunt fan Assimov, dar literatura SF nu reprezinta in mod esential anticipatie tehnologica. Nu a fost numai atat nici la Jules Verne sau HG Wells.
      Reprezentarea androida a robotului a avut sens intr-un anumit stadiu al literaturii SF. Acum este desueta si probabil va disparea chiar si din SF…

      • Harald spune:

        Nu e vorba de a fi fan Asimov, e vorba de a avea aceleași opinii cu el în unele aspecte, chiar dacă în privința altor aspecte ale evoluției tehnologice opiniile pot fi diferite. Jules Verne a anticipat construirea elicopterelor, dar asta nu înseamnă că Sikorsky le-a construit fiindcă era fan Jules Verne, ci fiindcă avea o idee despre potențiala utilitate a lor.

        Cam tot asta e și legătura mea cu Asimov, iar dacă ați vedea în UK cum un tren electrifică o cale ferată (!) ați înțelege mai bine la ce mă refer.

        • donquijote spune:

          Pentru elicopter eu i-as da patentul lui Leonardo, insa ma tem ca nu sunt documentat total si o sa mai gasim si pe la Arhimede cate ceva.
          Dar nu asta era problema. Sunt de acord cu dumneavoastra : “e vorba de a avea aceleași opinii cu el în unele aspecte, chiar dacă în privința altor aspecte ale evoluției tehnologice opiniile pot fi diferite”.
          Eu cred ca marii maestri ai SF nu au neaparat nevoie sa fie genii tehnice (pot fi vizionari empirici). Daca ar fi, s-ar dedica probabil creatiei tehnice – este o ocupatie captivanta in sensul cel mai propriu, care nu-ti mai da timp sa si scrii.
          Dincolo de fictiunea tehnologica ei au creat niste modele morale. Assimov este pentru mine, cel putin, un fel de Euclid. Pe baza legilor roboticii emise de el se poate dezvolata un sistem intreg.
          Jules Verne este la fel, un moralist, in primul rand: fictiunea tehnica este pusa fata in fata cu morala (si cu responsabilitatea, care era subiectul articolului).
          De multe ori, anticipatia tehnica este deja depasita de realitate, chiar pana când opera literara (sau ecranizarea) ajunge la cititori si de aceea poate parea desueta, dar “mesajul” ramane.
          Responsabilitatea TREBUIE sa ramana umana.
          Daca ai facut un accident fiindca n-a functionat frana cum trebuie, esti responsabil. Poti sa-ti gasesti circumstante atenuante, dar daca esti iresponsabil, utilizezi o masina ignorând ca poate sa faca rau altor oameni, nu poate fi condamnata masina, asa cum nu poate fi batuta marea cu bice fiindca a scufundat flota de razboi…
          Daca ii dam unui robot forma umana, pe langa ca este lipsit de sens, nu ne putem degreva de responsabilitate. Forma este ne-esentiala. Vointa care ii da “viata” poarta responsabilitatea…
          Pana la urma robotul creat de om este o masina finita; este o mare diferenta intre infinit si nemasurat.

  3. Vlad spune:

    Cred ca inceputul si sfarsitul rationamentului sunt gresite. Un robot nu are cum ia viata cuiva dupa cum nu poate nici sa i-o dea. Doar fiintele vii au aceasta capacitate. Robotul este o unealta. Greseala apartine fie muncitorului care nu a respectat instructiunile fie ansamblului de oameni care au participat, si aici e FOARTE important, voit sau nevoit la a face posibila constructia acelui robot. Participarea voita inseamna ca oamenii stiau ca vor participa la constructia unui robot care se va afla la un anume moment dat in contact cu oamenii si participarea fara intentie are si ea doua nuante cei care au facut progrme, librarii stiau ca exista roboti dar nu s-au gandit sa impuna fie restrictii de utilizare fie conditii specifice care sa aiba in vedere utilizarea lor intr-un mediu cu roboti si cei care demonstrat nu stiau ca exista roboti cand au facut librariile, piesele, samd si deci nu pot fi in mod real trasi la raspundere. Investigatia, pentru a se derula corect si complet cred ca ar dura zeci de ani si ar implica sute, mii sau chiar sute de mii de oameni.

    Oamenii se degreveaza prea usor de responsabilitatile care le revin si le paseaza la roboti.

    • Mihai Badici Mihai Badici spune:

      E bine că mi-aţi lăsat cuprinsul :) Din păcate, omul e doar o trestie şi nu trebuie ca întreg universul să se îndrepte împotriva lui. Un robot, ca şi un fulger sau o furtună pot lua viaţa unui om fără ca vreo fiinţă vie să fie implicată. Robotul se construieşte după nişte specificaţii, nimeni nu poate să le ia pe toate in considerare (ok, ar fi multe de comentat despre softul care se scrie în zilele noastre, dar nu vreau să duc discuţia până acolo).
      Lucrurile se complică atunci când acceptăm algoritmii nedeterminişti; şi, cel puţin din ce ştim acum nu prea avem încotro, trebuie să îi acceptăm.

      • Vlad spune:

        Fiintele vii, nu neaparat constinete, SUNT IMPLICATE de la proiectare, design, asamblare pana la utilizare. Specificatiile SUNT FACUTE de oameni. Cred ca v-ar interesa cine a facut aparatura de la centrala de la Cernavoda …

        Faptul ca oamenii nu sunt preocupati de implicatiile pe care le pot avea software-urile pe care le fac este foarte rau. Masinile nu mai sunt aspiratoarele de acum 20 de ani sau calculatoarele pe care tineam un program de contabilitate incarcat cu date din registrii contabili si care daca nu mai functionau cateva zile nu era nicio problema, il lasai acolo intr-un colt pana lui altul. Dependenta oamenilor de tehnologie a crescut … ganditi-va la un downtime pentru aplicatii critice … Eu am simtit pe pielea mea aceasta dependenta presiunea oamenilor, asteptarile de always-on, toleranta aproape zero la eroare din partea omului care opereaza nu un calculator ci un mediu complex. Cand realizezi ca o comanda gresita poate insemna downtime de ore, oameni care nu-si pot duce la bun sfarsit activitatile, oricare ar fi ele. Oamenii traiesc asa … visand … ca ii doare pe ei in cot de ce se intampla cu oamenii care depind de aplicatii sau ca nici macar nu si-au pus problema … asta e altceva …

        Dependenta de masini e o chestie cat se poate de reala … De la data gresita pe biletul de tren am fost dat jos intr-o gara la ore de casa fara bani in buzunar … norocul meu ca mai aveam baterie la telefon si am apucat sa sun … Bine, ok, poti sa rogi oamenii sa le spui ca uite ai o problema si vrei sa dai un telefon … da, acelasi lucru l-am facut si cu mecanicul de tren, acelasi lucru l-am facut si in gara explicand ca nu e vina mea … ca s-a gresit biletul … era cu o zi in spate nu aveam cum sa strabat distanta dus-intors intr-o singura zi si sa ma intorc a doua oara cu acelasi bilet. Era, anacronic … Dependenta de masini … creste in contrapondere cu cea fata de oameni … Oamenii se asteapta ca masinile sa functioneze, ca oamenii sa aiba masini functionale … si cand nu au … ghinion …

  4. Mihai Popa spune:

    Robotica nu va ajunge să depășească nivelul unor unelte.

    Chiar dacă noțiunea de ”Artificial Inteligence” este extrem de seducătoare pentru anumite sfere ale establishmentului (nu există specimen uman dedulcit la mierea Puterii care să nu viseze la curtea sa sclavi supunându-i-se fără crâcnire) totuși oamenii de știință vor ajunge cu siguranță la concluzia că orice mașină de tipul AI trebuie să fie concepută astfel încât să nu-și permită depășirea unor limite strict stabilite prin LEGI.
    Iar dacă aceste Legi nu vor putea fi modelate cibernetic la un nivel care asigură conformitatea de 100% în orice situație atunci proiectul ar trebui abandonat.

    Creierul uman nu va putea fi replicat prea curând chiar dacă există cercetări îndreptate spre crearea de circuite logice din material biologic sau din material cuantic.
    Ceea ce ar putea fi modelat destul de curând este Sistemul de Senzori (pentru formă, culoare, temperatura, umiditate, presiune, mișcare). Mai greu va fi cu senzori care pot diferenția materialele.
    Cheia de boltă a acestui Sistem este Senzorul Vieții Biologice.

    La pornirea unei astfel de mașini, AI va trebui lăsată să-și ”cunoască” mediul, să-l ”modeleze” cibernetic și să evalueze posibilitățile de mișcare, FĂRĂ AJUTOR UMAN.
    Abia după ce va trece de examenul la care va răspunde complet la întrebarea: ”-Unde ești ?” i se va putea permite activarea senzorului Viața Biologică și să separe Entitățile Vii existente în mediul modelat și să răspundă complet la întrebarea: ”-Ce este viu ?”

    În final va trebui să răspundă la întrebarea: ”-Unde este Omul ?”
    Ceea ce nu va trebui NICIODATĂ să modeleze AI este întrebarea: ”-Cine sunt Eu ?”

    • Mihai Badici Mihai Badici spune:

      Dumneavoastra aveti un astfel de “senzor al vietii biologice”? Stiti sigur că există? Din păcate este greu să spui ce este raţiunea; pe de altă parte oamenii înşisi fac lucruri iraţionale, e greu să ceri unei maşini să aibă răspunsuri 100% corecte…

      • Mihai Popa spune:

        Sunt convins că Viața, sub orice formă există, emite pulsații de radiații specifice, interacționând cu mediul, influențându-l și fiind influențată de acesta.

        Omul este o formă de viață al cărei succes pe lanțul trofic se datorează Rațiunii, o ”unealtă” căreia încă nu i-a deslușit toate secretele. Efortul său de a folosi cu precădere Rațiunea l-a costat atenuarea și, eventual, dispariția unor simțuri guvernate de instinctul animalic. Dar acești ”senzori ai vieții biologice” nu au dispărut din sfera florei și faunei; de exemplu animalele de pradă ”simt frica” potențialei victime. Un animal domestic percepe o ”stare de bucurie” atunci când stăpânul său se apropie de el dar numai dacă acest om este un adevărat iubitor de animale. Nu se va întâmpla astfel dacă persoana respectivă ”emite” un sentiment de indiferență, ostilitate sau chiar de frică față de animal. Această relație biunivocă de emisie-recepție are loc fără intervenția ”rațiunii”.

        Atâta vreme cât Ceva există el poate fi detectat, măsurat, interpretat.

        O mașină va da numai acele răspunsuri pe care le ”cunoaște” iar ele vor fi 100% corecte atâta vreme cât parametrii săi de funcționare sunt în limitele proiectate. Re-cunoașterea unei forme de viață de către o mașină AI este obligatorie iar asta presupune detectarea, interpretarea și măsurarea pulsațiilor radiațiilor specifice vieții. Deși pulsațiile proprii vieții se manifestă în jurul ei mașina AI le va ignora dacă Stăpânul ei – Omul – nu o va dota cu senzori corespunzători și o va ”instrui” cum să le detecteze, măsoare și să le interpreteze .

        Abia după ce mașina va ”ști” că se află în prezența unui Om se va pune problema Legilor pe care trebuie să le respecte necondiționat în tot ceea ce înseamnă interacțiunea sa cu Întreg Mediul aflat în raza sa de acțiune în care se află Împreună cu Omul:
        • Legea 1- Un robot nu are voie sa pricinuiască vreun rău unei ființe umane, sau prin neintervenție, să permită ca unei ființe omenești să i se facă rău.
        • Legea 2- Un robot trebuie sa se supună ordinelor date de către o ființă umana atât timp cât ele nu intră în contradicție cu Legea 1.
        • Legea 3- Un robot trebuie să-și protejeze propria existență, atât timp cât acest lucru nu intră în contradicție cu Legea 1 sau Legea 2.

        Privind la cele trei legi de mai sus putem spune că sunt destul de greu de implementat la o mașină.

        Omul însuși, deși nu are probleme în detectarea formelor de viață și în plus este dotat cu Rațiune nu reușește să respecte 100% aceste Legi.

        Cât despre Legea Supremă a Roboticii:

        Legea 0- Un robot nu are voie sa pricinuiască vreun rău umanității, sau prin neintervenție să permită ca umanitatea să fie pusă în pericol

        se poate spune că este imposibil de implementat atâta vreme cât există niște mașini care pot distruge Habitatul Biologic doar la o simplă apăsare de buton.
        Nici cea mai performantă AI nu are cum să știe că cei trei indivizi care dețin codurile care activează acel buton au înnebunit.

    • Harald spune:

      @ Mihai Popa – deși nu împărtășim aceleași opinii, e foarte posibil ca majoritatea oamenilor să vadă lucrurile în maniera prezentată de dvs.: ”Iar dacă aceste Legi nu vor putea fi modelate cibernetic la un nivel care asigură conformitatea de 100% în orice situație atunci proiectul ar trebui abandonat.”

      De aceea presupun că locul roboților va fi pe Marte și pe asteroizi, pentru că acolo nu există jurisdicție, deci în perioadele de început nu va exista nici lege.

    • Harald spune:

      @ Mihai Popa – cel mai spectaculos rol al roboților androizi va fi acela de parteneri sexuali. În următorii 20-30 de ani ar putea deveni la fel de comuni ca și automobilele personale, deși pe acești roboți nu-i vom vedea neapărat pe stradă. Și nu-i va păsa nimănui de legile roboticii, iar accidente privind utilizarea lor se vor întâmpla mereu. Concluzia e simplă: teoria, ca teoria … :P

      • Mihai Popa spune:

        Dacă tot am atins SF-ul atunci, @Harald, cred că ar trebui să te aștepți la apariția, cât de curând, a unui excelent roman SF: Do You wana sexIT ?

        Oare care ar putea fi intriga ?

  5. iosiP spune:

    Stiti care este problema majora a descoperirii vietii in Univers? Ei bine, faptul ca nu exista inca o definitie universal acceptata a vietii!
    Pentru detalii va invit sa cititi aici: http://www.astrobio.net/

    • Vlad spune:

      :) Aici e definitia vietii, ba aici, ba aici … In cartea aia, ba in cealalta :) Nu, uite … deci propozitia asta e chiar definitia vietii … Pe site-ul cutare, la link-ul cutare acolo, exact acolo e definita vietii …

      Picturile rupestre, scrierile cu ideograme, cu caractere, pozele, videoul, audioul reprezinta cunostinte. Formatele in care le intalnim sunt: pesteri, pereti, tablite, manuscrise, carti, placi de pick-up, benzi, cd-uri, dvd-uri, stocare digitala, formate: txt, doc, pdf, rtf, mp3, mp4, wav, avi, mpg, html, docx, xls, xlsx …

      Cunostintele ne servesc pentru a dobandi cunoastere. Oamenii au nevoie de cunoastere pentru a trai intr-un anume mediu … Fara cunoastere omul nu poate face fata conditiilor de mediu si cel mai probabil paraseste existenta.

  6. Vlad spune:

    Pentru cine are dubii cum arata o fiinta vie poate sa-mi scrie pe vberliba@yahoo.com si putem stabili o intalnire :)

    • Mihai Badici Mihai Badici spune:

      O sa va trimit un robot sa va cunoasca :)

      • Vlad spune:

        Sa ma inregistreze si monitorizeze vreti sa spuneti ?

        • Mihai Badici Mihai Badici spune:

          Sa vedem daca trece testul ( daca va identifica in mod corect ). :)

          • Vlad spune:

            Pentru asta trebuie sa-mi dau acordul … iar acordul de utilizare al adresei de mail pe care am publicat-o se limiteaza strict la oameni si strict in scopul pentru care am facut-o disponibila: adica conversatie electronica.

            • Mihai Popa spune:

              Hm, iată primul simptom al fricii Omului față de AI !
              @Vlad, poate că tocmai ai renunțat la o experiență inefabilă !

  7. Vlad spune:

    @Mihai Popa

    Problema e lipsa de discernamant a omului … care poate avea efecte devastatoare … De aceea s-a fondat Future of Life Institute, de aceea sunt oameni care isi pun probleme ce se poate intampla … E suficient sa ne uitam la Nagasaki, Hiroshima, Cernobil, Fukushima … la dezastrul ecologic pe care l-a facut omul in ultimii 100 de ani … Poluarea cu mercur a oceanelor care transforma hrana marina in alimente de o toxicitate extrem de ridicata, cianurare, poluarea panzei freatice, deversarea deseurilor in oceane cum e submarinul cu substante chimice din largul coastelor Norvegiei … deversarea deseurilor electronice in tarile sarace din Africa … chimicalele din alimente … Plumbul din benzina … si cate si mai cate … Astea toate sunt creatiile omului …

    • Harald spune:

      Nici plumbul și nici mercurul nu sunt creațiile omului, alchimia rămâne de domeniul SF chiar și după mii de ani de wishful thinking. Iar cât privește reactoarele nucleare, în trecutul geologic al planetei au existat și reactoare naturale, ale căror efecte era de milioane de ori mai grave decât orice ar putea face un accident nuclear la o centrală construită e om.

      Ca să apelăm la o comparație simplă, câți oameni mor anual în accidente rutiere, câți oameni mor în accidente aviatice și câți mor în urma unor accidente nucleare? Însă idiosincraziile publicului acordă exact importanța inversă acestor accidente. Ca dovadă că problema publicului e una subiectivă, de percepție. Fără prea mare legătură cu realitatea.

  8. Vlad spune:

    @Mihai Popa

    Ideea cu discernamantul e foarte simpla … Exista producatori care fac produse dotate cu programe care fac lucruri cu care nu sunt de acord si la care nu ai acces sa le modifici asa cum ai dori. Deci cand vrei sa faci uz de capacitatea de a alege, nu poti … Producatorii vor sa te asigure ca e bine asa, adica lasa ca stim noi mai bine ce e bine pentru tine, tu stai acolo cumintel si inghite, ceea ce evident este un abuz.

    Folosirea pe scara larga a AI-ului … care deja se intampla in multe, multe cazuri lasa loc la o gramada de abuzuri …

    • iosiP spune:

      Din fericire producatorii respectivi nu au nevoie de acordul dumneavoastra, deci tot ce puteti face este sa le boicotati produsele… de parca le-ar pasa de asta! ;)

      • Vlad spune:

        Se spune sa spuna nu abuzurilor … Dumnvevoastra vreti un Stat care sa va permita sa-i abuzati pe ceilalti oameni ? Ca va tot vad militand pentru Statul minimal … Cu mentalitatea asta domnule iosiP … Statul trebuie sa garanteze libertatile TUTUROR cetatenilor nu sa le restranga … Cand doar “libertatile” UNOR cetateni sunt garantate se spune ca Statul este unul totalitar.

    • Harald spune:

      @ Vlad – și Băsescu e dictator, așa e? :P

      Nu înțelegi nimic din funcționarea unui stat totalitar (probabil nu ai prins vremurile) dacă ai impresia că un control mai mare din partea statului aduce mai multă libertate ”tuturor” cetățenilor. Controlul mai mare reduce libertatea, însă omul simplu simte mai ușor de acceptat oprimarea depersonalizată a regimului decât să vadă că alții au Mercedes și el doar Logan.

      • Vlad spune:

        @Harald

        Ca Basescu, cine o fi acest Basescu …, sa aspire la pozitia de dictator trebuie mai intai sa fie presedinte al unei tari. Eu nu cunosc niciun Basescu presedinte …

        Asta spun si eu controlul mai mare reduce libertatea … Controlul incepe sa fie deranjant cand e dublat de legi care il sustin, adica in momentul in care eu vreau sa-mi exercit libertatea nu pot din cauza ca cineva mi-a restrictionat expres acest drept, specific in cazul produselor software, dupa ce actul de vanzare-cumparare s-a incheiat si eu ar trebui sa fiu proprietar pe produs dar nu sunt. Acest lucru evident nu este corect intrucat intr-o societate guvernata de reguli, regulile trebuie sa fie la fel pentru toti oamenii, adica in ce priveste libertatea, ea trebuie sa fie garantata tuturor. Daca ea nu este garantata unuia dintre oameni, inseamna ca ea nu este garantata nici tuturor si in concluzie statul respectiv este unul care oprima libertatea, adica un stat totalitar.

        • iosiP spune:

          “specific in cazul produselor software, dupa ce actul de vanzare-cumparare s-a incheiat si eu ar trebui sa fiu proprietar pe produs dar nu sunt”.

          Ai un fix! Desigur, este dreptul tau, la fel cum este dreptul meu sa-ti vand doar executabilul: nu-ti convine, nu cumperi! Hai pa :)

          • Vlad spune:

            Discutia era in contextul Statului minimalist pe care il promovati … unde problema controlului prin intermediul software-ului devine acuta …

  9. omul spune:

    ref “omul simplu simte mai ușor de acceptat oprimarea depersonalizată a regimului”
    Avand in vedere noua strategie de securitate, legile BB ce stau pregatite in sertare, numirea lui MRU la SIE, ar fi utila o analiza a cartii remarcabile aparuta recent la Litera (si vanduta zilele acestea cu ziarul Adevarul): Afacerea Edward Snowden de Glenn Greenwald. De ce nu se vorbeste de prezenta numelui Romaniei intr-un slide NSA ce prezinta tarile implicate in supravegherea populatiei din tari democratice (pag. 152)?

    • Harald spune:

      Pentru că România are doar o democrație de fațadă. Unele teme nu fac parte din discuțiile din spațiul public fiindcă se sugerează că ”e mai bine așa”. Slugărnicia față de serviciile secrete se manifestă până și la Înalta Curte. Nu li se poate cere serviciilor să-și vadă de treaba lor pentru că la fel ca pe vremea lui Ceaușescu, TOTUL este treaba lor: economie, politică, mass-media, societatea civilă etc.



Comenteaza:







Do NOT fill this !

Autor

Mihai Badici


Mihai Badici

Absolvent al Facultății de Electronică si Telecomunicații București ( 1991) si doctorand al aceleiași facultăți. Administrator de sistem cu peste zece ani de experienț... Citeste mai departe


MIHAI MACI – Cel de-al doilea volum din Colectia Contributors.ro

"Atunci când abdică de la menirea ei, școala nu e o simplă instituție inerțială, ci una deformatoare. Și nu deformează doar spatele copiilor, ci, în primul rând, sufletele lor. Elevul care învață că poate obține note mari cu referate de pe internet e adultul de mâine care va plagia fără remușcări, cel care-și copiază temele în pauză va alege întotdeauna scurtătura, iar cel care promovează cu intervenții va ști că la baza reușitei stă nu cunoașterea, ci cunoștințele. Luate indi­vidual, lucrurile acestea pot părea mărunte, însă cumulate, ele dau măsura deformării lumii în care trăim și aruncă o umbră grea asupra viitorului pe care ni-l dorim altfel." - Mihai Maci

E randul tau

cu ani in urma un prieten cambodgian mi-a povestit cum a fost omorat pe taica-sau pe vremea khmerilo...

de: r2

la "Ce-ar fi să vorbim cu-adevărat corect politic despre Fidel Castro?"

Cauta articole

decembrie 2016
Lu Ma Mi Jo Vi Du
« Noi    
 1234
567891011
12131415161718
19202122232425
262728293031  

Valentin Naumescu – Marile schimbari. Crize si perspective in politica internationala. Editie bibliofila

contributors.ro

Contributors.ro este intr-o permanenta cautare de autori care pot da valoare adaugata dezbaterii publice. Semnaturile noi sunt binevenite cata vreme respecta regulile de baza ale site-ului. Incurajam dezbaterea relaxata, bazata pe forta argumentelor.
Contact: editor[at]contributors.ro

(An essay by Vladimir Tismaneanu and Marius Stan)