luni, octombrie 25, 2021

Google si corectitudinea politica

O observaţie postată de un anume Kabir Alli pe Tweeter (link aici) a suscitat un val de discuţii pe Internet. Pe scurt, o căutare pe Google după imagini cu „three black teenagers” returnează un şir de fotografii din care unele seamănă destul de bine cu cele luate de poliţie infractorilor; în schimb, „three white teenagers” găseşte mai degrabă rezultatele pe care le asociem în mod normal cu vârsta adolescenţei: tineri zâmbitori în ipostaze pozitive.

De aici discuţia: este deci Google rasist? Acum câteva luni Microsoft a trecut printr-o experienţă similară: chatbot-ul lor, roboţelul vorbitor dotat cu algoritmi de învăţare, a luat-o razna şi a început să debiteze replici rasiste.(link la întâmplare, aici)

Bineînţeles, Google a trebuit să răspundă şi a spus ceea ce trebuie spus: Google e o maşină de căutare; ei nu produc conţinut ci doar îl indexează pe cel existent. Rezultatul este deci, rasist, pentru că Internetul e rasist, iar Internetul e rasist pentru că societatea care îl produce e rasistă.

Microsoft a anunţat că va face unele modificări în algoritmii lui Tay. E uşor de presupus care vor fi acelea. Suntem în una din situaţiile care tinde să devină tipică pentru „corectitudinea politică”, şi anume aceea de a elimina o parte din datele de intrare din motive care nu ţin de statistică. Însă atunci când alterezi ipoteza, există şanse mari să alterezi şi rezultatul. Lucrând pe date cu un „byas” evident, e lesne de înţeles că şi rezultatul va avea un „byas” asemănător. Vom obţine deci „robotul nou”, varianta cibernetică a „omului nou” comunist, din al cărui bagaj de cunoştinţe lipsesc capitole întregi.

În plus, experimentul eşuat al Microsoft ( pentru că în aceste condiţii e greu să mai discutăm de „machine learning”) ne privează de răspunsul la o întrebare mai subtilă: nu cumva maşina, la fel ca societatea umană, ar fi putut evolua în timp, de la reacţiile primare ( din câte am văzut eu, destul de influenţate de campania lui Trump, care e un fenomen episodic) la o înţelegere mai complexă a culturii? Poate că ar fi trebuit să îi dăm şi maşinii să „ronţăie” cărţile clasice ale culturii universale, înainte de a o lăsa de capul ei pe Twitter. Ah, dar vai…. cam asta facem şi cu copiii noştri.

Discuţia este însă mai amplă, pentru că ajunge să afecteze înseşi bazele cercetării ştiinţifice. Putem oare îndepărta unele rezultate doar pentru că pun într-o lumină defavorabilă o anumită categorie? Există ţări, de exemplu Franţa, în care aflu că este interzisă specificarea etniei în înregistrările poliţiei ( am auzit la radio un reprezentant al romilor cerând acelaşi lucru la noi) . Dar eliminând această rubrică, automat facem mult mai dificilă orice cercetare sociologică pe tema delincvenţei pentru  anumite etnii, ceea ce poate împiedica inclusiv formularea de soluţii pentru rezolvarea problemei acestora.  Este aceasta o cale de urmat? Nu cumva ajungem la soluţia struţului, ignorând problemele în loc să le studiem şi să le rezolvăm?

În definitiv, Google ne pune în faţă o oglindă a lumii în care trăim. Într-o lume ideală, nu ar trebui să existe „corectitudine politică” pentru că nu ar exista excluziune socială. Da, avem posibilitatea să „cosmetizăm” Google, şi poate chiar întreg Internetul. Dacă însă nu trăim într-o realitate virtuală cum crede Elon Musk , nu putem cosmetiza şi lumea din jurul nostru. Va trebui să o reparăm de-adevăratelea.

Distribuie acest articol

7 COMENTARII

  1. Sunt de partea lui Google aici, adica ma gandesc ca nimeni nu crede ca undeva in algoritmul lui Google este vreo instructiune de genul „daca in cautare apare cuvantul ‘black’ arata rezultate cu infractori” :)
    Explicatia probabil este cea pe care am vazut-o intr-un reply tot pe Twitter, si anume: stock photos. Mai precis, am vazut de-a lungul vremii mai multi oameni (de exemplu autori de carti cautandu-si poze pt coperte) plangandu-se de faptul ca nu prea exista stock photos cu oameni de culoare. Pe de alta parte, exista zeci de mii de poze cu oameni albi, iar acestea apar in searches (pozele din cautarea cu „three white teenagers” par a fi stock photos). Cum la „three black teenagers” stock photos nu-s, bietul Google a afisat „the next best thing” in ordinea popularitatii, si anume pozele probabil din articole despre arestari (ca nu prea apar in ziare articole despre oameni fericiti/corecti).

    Ce vreau eu sa zic e ca da, un bias exista — oamenii de culoare fiind subreprezentati la capitolul stock photos si suprareprezentati la capitolul arestari (sunt multe studii in US care arata pedepse de dimensiuni diferite pt aceeasi fapta in functie de culoarea faptuitorului). Dar nu e vina lui Google in cazul asta, si clar nu cred ca Google ar trebui sa schimbe nimic. E important sa vedem lumea din jur asa cum e, cu problemele pe care le are — altfel cum le vom rezolva pe problemele respective daca nu stim ca exista?

    Pe de alta parte ceea ce vor ei sa rezolve (si cu Google, si cu eliminarea etniei din inregistrari) este propagarea/confirmarea prejudecatilor existente. Mintea umana favorizeaza informatiile care ii confirma parerile avute deja — i.e. daca eu cred ca romii sunt hoti, urmatoarea data cand aud un raport de politie zicand ca un rom a furat ceva mi se intareste aceasta parere (chiar daca raportul ala era unul din zece, celelalte noua fiind despre ne-romi). Deci ideea de la baza a initiativelor PC din articol e buna, dar un pic in extrema cealalta. Cred c-ar trebui gasita o cale de mijloc — de exemplu sa se inregistreze etnia dar sa nu se faca publica.

    Inca ceva, exemplul cu Tay este neaparat relevant pt articol. Mai precis, Tay a fost tinta unor „trolls” care l-au invatat tot felul de porcarii dinadins. Experimentul nu este o oglinda a lumii in care traim, este daca doriti un fel de „reverse politically correctness” — bietul Tay a fost improscat cu murdarii in procent mult mai mare decat normal, asa ca e de inteles c-a devenit si el la randul lui „murdar”. Si da, algoritmul lui Tay ar trebui schimbat a.i. sa fie rezistent la genul acesta de atacuri, pentru ca nu exista nimic bun ce poate iesi din asta, din contra.

  2. Cred ca ati dorit sa spuneti bias nu byas. In rest aveti perfecta dreptate: „garbage in, garbage out”, asta e frumusetea statisticii.

  3. Asta e capcana corectitudinii politice. Sa alterezi (pretins pozitiv) imaginea pe care societatea o are asupra ei insasi inseamna sa ascunzi cauzele diverselor inechitati. Care poate nici nu sunt intotdeauna inechitati ci particularitati, chiar si etnice sau religioase, a caror negare de dragul progresului este o prostie. Dar cand mii de oameni, altfel mediocri, isi fac o reputatie nu cladind ceva ci proclamandu-se arbitri ai societatii (din perspectiva corectitudinii politice) rezultatul nu poate fi decat o mare si colectiva minciuna.

  4. O mică paranteză. Acum câțiva ani Franța a recurs la deportarea, voalată, a țiganilor din Franța. A fost prima dată de la cel de-al 2-lea Război Mondial când o țară denumește etnic un grup și întreprinde acțiuni controlate împotriva acestui grup etnic. Mișcarea consta în plătirea către țigan unor 300 de € și cheltuielile de transport cu avionul. Partea comică a fost că după 3 săptămâni francezi i-au avut din nou pe țigani în Paris aliniați să le mai dea 300 de € și să le mai facă o deportare.

  5. Totusi sa nu exageram

    Am facut o mica cautare – „three white teenagers” si an gasit si asta :
    http://cjonline.com/sites/default/files/imagecache/superphoto/15042220.jpg
    infractori toata ziua : 3 Junction City men arrested in kidnapping, robbery where victim was shot in head White, White trashes
    Si desi primele poze de la „„three black teenagers” sunt cam in gebul celor 3 white trashes se gaseste si poza asta :
    http://www.blacknews.com/wp-content/uploads/2016/03/three_teens_killed_distracted_driving.jpg
    Din pacate (ptr fatuce) poza este legata de o stire „judiciara” Cele 3 au fost victmile unui sofer care vorbea la telefon …

  6. Corectitudinea politica sterilizeaza dezbaterea sanatoasa, si pe vremea lui ceusescu la partid se dezbateau problemele, dar vorbitorul avea voie sa zburde doar pe o anumita parcela de gandire, „sefii ce mari nu puteau gresi ” „sistemul comunist era cel mai bun” etc.

    De fapt supararea votantilor care se intreapta spre partidele identitare eurosceptice, simt o mare diferenta intre discursul oficial cliseu si realitate, Donald Trump chiar asta a facut , a recunoscut probleme pe care ceilalti omiteau in discursul lor.

  7. „Google e o maşină de căutare; ei nu produc conţinut ci doar îl indexează pe cel existent”
    Algoritmul de indexare este cel care prin schimbarile dese (aproximativ 500~600 in fiecare an) ofera perceptia unei unelte ce manipuleaza. Una din cele mai noi reguli implementate se refera la rezultatele care sunt afisate pe mobil vs. rezultate afisate pe desktop. Altfel spus website-uri „mobile-friendly” obtin locuri fruntase pe mobil in detrimentul celor care nu indeplinesc acest criteriu.
    Corect sau nu modul de functionare al Google-ului va primi cat de curand un nou layer pentru a furniza rezultatele cat mai aprope de zona de interes al utilizatorului.
    Poate ca uni ar spune atunci „curat” manipulare… Sau poate nu!

Dă-i un răspuns lui Catalin Renunțați la răspuns

Please enter your comment!
Please enter your name here

Prin adaugarea unui comentariu sunteti de acord cu Termenii si Conditiile site-ului Contributors.ro

Autor

Mihai Badici
Absolvent al Facultății de Electronică si Telecomunicații București ( 1991) Administrator de sistem cu peste zece ani de experiență cu specializari in sisteme de stocare si securitatea datelor. De asemenea a absolvit in 1996 Facultatea de Litere la Universitatea Bucuresti. In prezent, consultant IT independent, colaboreaza pe mai multe proiecte legate de infrastructura de date.

Carte recomandată

 

Sorin Ioniță: Anul 2021 a început sub spectrul acestor incertitudini: va rezista democraţia liberală în Est, cu tot cu incipientul său stat de drept, dacă ea îşi pierde busola în Vest sub asalturi populiste? Cât de atractive sunt exemplele de proastă guvernare din jurul României, în state mici şi mari, membre UE sau doar cu aspiraţii de aderare? O vor apuca partidele româneşti pe căi alternative la proiectul european clasic al „Europei tot mai integrate“? Ce rol joacă în regiune ţările nou-membre, ca România: călăuzim noi pe vecinii noştri nemembri înspre modelul universalist european, ori ne schimbă ei pe noi, trăgându-ne la loc în zona gri a practicilor obscure de care ne-am desprins cu greu în tranziţie, sub tutelajul strict al UE şi NATO? Dar există şi o versiune optimistă a poveştii: nu cumva odată cu anul 2020 s-a încheiat de fapt „Deceniul furiei şi indignării“?

 

 

Carte recomandată

“Să nu apună soarele peste mînia noastră. Un psiholog clinician despre suferința psihică” – Andrada Ilisan

”Berdiaev spune că la Dostoievski singura afacere, cea mai serioasă, cea mai adîncă e omul. Singura afacere de care sînt preocupați toți în Adolescentul e să dezlege taina lui Versilov, misterul personalității sale, a destinului său straniu. Dar la fel e și cu prințul din Idiotul, la fel e și cu Frații Karamazov, la fel e și cu Stavroghin în Demonii. Nu există afaceri de altă natură. Omul este deasupra oricărei afaceri, el este singura afacere. Tot omul e și-n centrul acestei cărți. Și lipsa lui de speranță.” Continuare…

 

 

 

Carte recomandată

”Incursiunile în culisele puterii lui Vladimir Putin îi oferă cititorului panorama plină de nuanţe, paradoxuri şi simulacre a unui regim autocratic unic în felul său. Analizele lui Armand Goşu sînt articulate elegant şi se inspiră din monitorizarea directă a evenimentelor, ceea ce ne permite să traversăm nevătămaţi labirintul slav întins între Sankt-Petersburg şi Vladivostok.” (Teodor Baconschi)

Cumpara cartea, 39.95 RON

Daca doriti un exemplar cu autograf accesati linkul acesta

 

Esential HotNews

Top articole

Cine sunt adevaratii „crizatori”?

Din toata aceasta costisitoare, frustranta, murdara, dar, vai, pilduitoare tevatura, remarc cateva lucuri precise: 1. Criza a avut...

Democrație, decizie colectivă, raționalitate, știință, medicină

Mă tem că numele Nongqawuse nu e prea cunoscut. Era o fetiță din tribul Xhosa, din Africa de...

Criza de carburanţi din S.U.A. şi România din anul 1979 şi limuzinele utilizate de politicienii comunişti de la Bucureşti în perioada 1957-1979

În cursul şedinţei din 25 iulie 1979, Nicolae Ceauşescu a propus şi membrii Comitetului Executiv al C.C. al P.C.R. au aprobat majorarea...

Când sursele de energie care ar trebui să stopeze schimbarea climei nu mai funcționează din cauza schimbării climei…

Toleranța va atinge un asemenea nivel încât oamenilor inteligenți li se va interzicesă mai gândească pentru a nu-i ofensa pe imbecili.Autor...

Preşedintele unui stat eşuat

Preşedintele Iohannis a trecut de la plimbările cu bicicleta şi recomandările practicării terapeutice a golfului la gestionarea crizei sanitare. Ca de atâtea...

contributors.ro

Contributors.ro este intr-o permanenta cautare de autori care pot da valoare adaugata dezbaterii publice. Semnaturile noi sunt binevenite cata vreme respecta regulile de baza ale site-ului. Incurajam dezbaterea relaxata, bazata pe forta argumentelor.
Contact: editor[at]contributors.ro

MIHAI MACI – Cel de-al doilea volum din Colectia Contributors.ro

„Atunci când abdică de la menirea ei, școala nu e o simplă instituție inerțială, ci una deformatoare. Și nu deformează doar spatele copiilor, ci, în primul rând, sufletele lor. Elevul care învață că poate obține note mari cu referate de pe internet e adultul de mâine care va plagia fără remușcări, cel care-și copiază temele în pauză va alege întotdeauna scurtătura, iar cel care promovează cu intervenții va ști că la baza reușitei stă nu cunoașterea, ci cunoștințele. Luate indi­vidual, lucrurile acestea pot părea mărunte, însă cumulate, ele dau măsura deformării lumii în care trăim și aruncă o umbră grea asupra viitorului pe care ni-l dorim altfel.” – Mihai Maci Comanda cartea cu autograful autorului. Editie limitata.