vineri, aprilie 19, 2024

Legea AI: “With great power comes great responsibility”

Parlamentul European a dat undă verde Legii AI, cu scopul de a echilibra puterea și responsabilitatea creatorilor uneia dintre cele mai influente tehnologii ale momentului. Esența legii e să punem la punct un limbaj comun pentru a discuta despre diferitele grade de risc ale modelelor AI și să ne ajustăm cerințele de transparență și monitorizare în consecință. Modelele AI, deși inteligente, nu sunt și pedepsibile, deci nu pot fi trase la răspundere direct pentru efectele deciziilor lor. Deci, e clar că oamenii sau organizațiile care „trag sforile” acestor tehnologii trebuie să preia responsabilitatea. Așadar, Legea AI propune un nou model social de dezvoltare organică a tehnologiei. Într-o societate dominată de giganții tehnologici, legea AI recuperează rolul experților și ONG-urilor, care vor oferi o contrapondere puterii acumulate de marile companii. Legea propune o descentralizare a monitorizării AI, prin cerințe de transparență în fața auditurilor independente și prin sporirea radicală a vizibilității publice privind ingredientele acesteia și funcționarea sa efectivă, reală.

Legea identifică, poate puțin școlăresc, o clasificare simplă, cu patru niveluri de risc: risc scăzut, moderat, ridicat și inacceptabil. Atenția se concentrează, însă, asupra modelelor cu risc ridicat de daune și inechitate – precum cele utilizate în vehicule autonome, în medicină, în educație, în recrutarea angajaților, în poliție și justiție. Cei care creează și lansează pe piață astfel de aplicații AI trebuie să fie responsabili pentru datele de antrenament, consumul lor de energie și impactul real al deciziilor modelelor. Există prevederi pentru respectarea drepturilor de autor, pentru asigurarea transparenței funcționării, evaluarea și monitorizarea riscurilor, auditarea acestora de ONG-uri, experți și agenții publice, precum și raportarea și atenuarea efectelor negative și protejarea drepturilor noastre fundamentale.

Legea AI urmărește și stimularea companiilor mici și mijlocii și crearea unei piețe libere a dezvoltării AI, care să nu fie strivită de giganții tehnologici. Autoritățile publice naționale au responsabilitatea creării unor așa-zise „cutii de nisip” („sandbox”), medii de experimentare, dezvoltare și testare a tehnologiilor AI ce urmează a fi puse pe piață. Acestea vor echilibra oportunitățile între competitorii pe piața AI, permițând și generarea unor modele mai mici, dar mai bine țintite.

Totuși, legea are și două mari limitări. Prima excepție notabilă este utilizarea AI în războaie, care rămâne fără răspuns. Aceasta nu este o omisiune minoră, având în vedere contextul internațional curent.

Trăim deja și un al doilea risc major care nu e acoperit de Legea AI: înlocuirea pe scară largă a muncii umane cu algoritmi. Deși legea abordează unele riscuri legate de muncă, precum discriminarea în recrutare sau abuzurile managementului algoritmic, ea nu tratează înlocuirea creativității, gândirii și muncii umane prin versiuni algoritmice. Aceasta afectează o gamă largă de munci, de la artiști la jurnaliști și, poate paradoxal, chiar programatorii. Oare societățile europene vor găsi noi echilibre în care munca de calitate să fie prețuită, societăți în care să găsim artiști, jurnaliști și programatori umani în orașele viitorului? AI promite o creștere mare a productivității muncii – dar cine va beneficia de pe urma acestui spor?

În cele din urmă, scopul ultim al legii AI este sporirea încrederii publice, prin asigurarea respectării drepturilor noastre fundamentale și prin transparentizarea unor tehnologii care ar deveni, lăsate de la sine, din ce în ce mai opace. O societate europeană în care corporațiile și statul vor fi contrabalansate de experți și mediul nonprofit va permite o dezvoltare organică a inteligențelor artificiale, sincronizate cu domeniile în care acestea se inserează. Legea promite accesul societății la beneficiile enorme ale AI în domenii precum medicina, transportul, agricultura, educația, sau securitatea infrastructurilor, tocmai prin prevenirea unor accidente sau abuzuri care ar afecta, poate iremediabil, încrederea populației. Astfel, noua lege europeană rescrie contractul dintre oameni și tehnologie, remediind riscurile și vulnerabilitățile cetățenilor în fața celor ce controlează aceste instrumente cu puteri supra-umane.

Distribuie acest articol

7 COMENTARII

  1. AI nu este decat o noua unealta a omului, poate cea mai inteligenta. Dar responsabilitatea este ca si in cazul armelor. Nu este vinovata pusca pentru omor, ci acel care o foloseste, cu sau fara rea intentie. Deci, sa fim prudenti!

  2. AI va fi folosit in razboaie clasice sau mai ales hibride indiferent de tratatele semnate sau nu. China Rusia Iran Arabia sau Coreea de Nord vor avea vreo restrictie impusa sau autoimpusa in a o folosi împotriva propriilor cetateni sau Occidentului „decadent”? Cel putin o parte a lumii va trai într-un univers orwelian

  3. Dezvoltarea in viitor va arata ca AI nu va avea limite ca si internetul. Personal sunt sceptica asupra unor beneficii extinse. Am cunoscut efectele aplicarii algoritmilor pentru examene studentilor in sesiuni. Acele teste pe discipline. Ele nu dezvolta gandirea, conexiunile de idei ci doar memorarea unor variante de raspuns. Omul poate oferi mai multe solutii si a fi mai creativ decat AI dar cu viteze de reactii mai mici. Asa cum exista hackeri prin internet tot asa vor fi si in AI atacuri si manipulari date tot de oameni. Nu toti sunt buni si gandesc pozitiv.

  4. „Personal sunt sceptica”
    1. Chiar trebuie sa ne delectati cu adaugarea redundanta „personal” sau asta este doar o clarificare ca nu este decat o opinie personala si nu ceea ce vi s-a spus sa faceti/spuneti?
    2. Pentru prima oara vad ca ati trecut la formulari „feminine”. Sunteti nou(a) pe postul asta sau v-ati inscris la schimbare de sex?
    :))

    • Pseudonimul este foarte posibil sa apartina unei doamne care considera spatiul Contributors un loc in care cititorii se simt precum vechii greci in Agora, la poalele Acropolei.
      Agora deci nu este o persoana ci un spatiu in care cetatenii se exprima liber in chestiuni sociale, culturale, politice. .
      Agora a existat in toata perioada clasicismului grec si arhitectonic a fost incununata de monumentala Stoa d’Attale, constructie daruita de regele Pergamului si care imbina stilul doric cu cel ionic.

LĂSAȚI UN MESAJ

Vă rugăm să introduceți comentariul dvs.!
Introduceți aici numele dvs.

Autor

Razvan Rughinis
Razvan Rughinis
Răzvan Rughiniș este profesor în Universitatea Politehnica din București, Facultatea de Automatică și Calculatoare, și co-fondatorul programului de dezvoltare de noi produse digitale Innovation Labs. Recent, a publicat cartea "Societatea digitală - Stăpâni, cetățeni sau sclavi?", Editura Humanitas.

Sprijiniți proiectul Contributors.ro

Pagini

Carti noi

 

Cu acest volum, Mirel Bănică revine la mai vechile sale preocupări și teme de cercetare legate de relația dintre religie și modernitate, de înțelegerea și descrierea modului în care societatea românească se raportează la religie, în special la ortodoxie. Ideea sa călăuzitoare este că prin monahismul românesc de după 1990 putem înțelege mai bine fenomenul religios contemporan, în măsura în care monahismul constituie o ilustrare exemplară a tensiunii dintre creștinism și lumea actuală, precum și a permanentei reconfigurări a raportului de putere dintre ele.
Poarta de acces aleasă pentru a pătrunde în lumea mănăstirilor o reprezintă ceea ce denumim generic „economia monastică”. Autorul vizitează astfel cu precădere mănăstirile românești care s-au remarcat prin produsele lor medicinale, alimentare, cosmetice, textile... Cumpara cartea de aici

Carti noi

În ciuda repetatelor avertismente venite de la Casa Albă, invazia Ucrainei de către Rusia a șocat întreaga comunitate internațională. De ce a declanșat Putin războiul – și de ce s-a derulat acesta în modalități neimaginabile până acum? Ucrainenii au reușit să țină piept unei forte militare superioare, Occidentul s-a unit, în vreme ce Rusia a devenit tot mai izolată în lume.
Cartea de față relatează istoria exhaustivă a acestui conflict – originile, evoluția și consecințele deja evidente – sau posibile în viitor – ale acestuia. Cumpara volumul de aici

 

Carti

După ce cucerește cea de-a Doua Romă, inima Imperiului Bizantin, în 1453, Mahomed II își adaugă titlul de cezar: otomanii se consideră de-acum descendenții Romei. În imperiul lor, toleranța religioasă era o realitate cu mult înainte ca Occidentul să fi învățat această lecție. Amanunte aici

 
„Chiar dacă războiul va mai dura, soarta lui este decisă. E greu de imaginat vreun scenariu plauzibil în care Rusia iese învingătoare. Sunt tot mai multe semne că sfârşitul regimului Putin se apropie. Am putea asista însă la un proces îndelungat, cu convulsii majore, care să modifice radical evoluţiile istorice în spaţiul eurasiatic. În centrul acestor evoluţii, rămâne Rusia, o ţară uriaşă, cu un regim hibrid, între autoritarism electoral şi dictatură autentică. În ultimele luni, în Rusia a avut loc o pierdere uriaşă de capital uman. 
Cumpara cartea

 

 

Esential HotNews

contributors.ro

Contributors.ro este intr-o permanenta cautare de autori care pot da valoare adaugata dezbaterii publice. Semnaturile noi sunt binevenite cata vreme respecta regulile de baza ale site-ului. Incurajam dezbaterea relaxata, bazata pe forta argumentelor.
Contact: editor[at]contributors.ro