Home » Media / Tech » Citesti:

Google si corectitudinea politica

Mihai Badici iunie 11, 2016 Media / Tech
7 comentarii 2,088 Vizualizari

O observaţie postată de un anume Kabir Alli pe Tweeter (link aici) a suscitat un val de discuţii pe Internet. Pe scurt, o căutare pe Google după imagini cu „three black teenagers” returnează un şir de fotografii din care unele seamănă destul de bine cu cele luate de poliţie infractorilor; în schimb, „three white teenagers” găseşte mai degrabă rezultatele pe care le asociem în mod normal cu vârsta adolescenţei: tineri zâmbitori în ipostaze pozitive.

De aici discuţia: este deci Google rasist? Acum câteva luni Microsoft a trecut printr-o experienţă similară: chatbot-ul lor, roboţelul vorbitor dotat cu algoritmi de învăţare, a luat-o razna şi a început să debiteze replici rasiste.(link la întâmplare, aici)

Bineînţeles, Google a trebuit să răspundă şi a spus ceea ce trebuie spus: Google e o maşină de căutare; ei nu produc conţinut ci doar îl indexează pe cel existent. Rezultatul este deci, rasist, pentru că Internetul e rasist, iar Internetul e rasist pentru că societatea care îl produce e rasistă.

Microsoft a anunţat că va face unele modificări în algoritmii lui Tay. E uşor de presupus care vor fi acelea. Suntem în una din situaţiile care tinde să devină tipică pentru „corectitudinea politică”, şi anume aceea de a elimina o parte din datele de intrare din motive care nu ţin de statistică. Însă atunci când alterezi ipoteza, există şanse mari să alterezi şi rezultatul. Lucrând pe date cu un „byas” evident, e lesne de înţeles că şi rezultatul va avea un „byas” asemănător. Vom obţine deci „robotul nou”, varianta cibernetică a „omului nou” comunist, din al cărui bagaj de cunoştinţe lipsesc capitole întregi.

În plus, experimentul eşuat al Microsoft ( pentru că în aceste condiţii e greu să mai discutăm de „machine learning”) ne privează de răspunsul la o întrebare mai subtilă: nu cumva maşina, la fel ca societatea umană, ar fi putut evolua în timp, de la reacţiile primare ( din câte am văzut eu, destul de influenţate de campania lui Trump, care e un fenomen episodic) la o înţelegere mai complexă a culturii? Poate că ar fi trebuit să îi dăm şi maşinii să „ronţăie” cărţile clasice ale culturii universale, înainte de a o lăsa de capul ei pe Twitter. Ah, dar vai…. cam asta facem şi cu copiii noştri.

Discuţia este însă mai amplă, pentru că ajunge să afecteze înseşi bazele cercetării ştiinţifice. Putem oare îndepărta unele rezultate doar pentru că pun într-o lumină defavorabilă o anumită categorie? Există ţări, de exemplu Franţa, în care aflu că este interzisă specificarea etniei în înregistrările poliţiei ( am auzit la radio un reprezentant al romilor cerând acelaşi lucru la noi) . Dar eliminând această rubrică, automat facem mult mai dificilă orice cercetare sociologică pe tema delincvenţei pentru  anumite etnii, ceea ce poate împiedica inclusiv formularea de soluţii pentru rezolvarea problemei acestora.  Este aceasta o cale de urmat? Nu cumva ajungem la soluţia struţului, ignorând problemele în loc să le studiem şi să le rezolvăm?

În definitiv, Google ne pune în faţă o oglindă a lumii în care trăim. Într-o lume ideală, nu ar trebui să existe „corectitudine politică” pentru că nu ar exista excluziune socială. Da, avem posibilitatea să „cosmetizăm” Google, şi poate chiar întreg Internetul. Dacă însă nu trăim într-o realitate virtuală cum crede Elon Musk , nu putem cosmetiza şi lumea din jurul nostru. Va trebui să o reparăm de-adevăratelea.

Ai informatii despre tema de mai sus? Poti contribui la o mai buna intelegere a subiectului? Scrie articolul tau si trimite-l la editor[at]contributors.ro



Currently there are "7 comments" on this Article:

  1. Kay spune:

    Sunt de partea lui Google aici, adica ma gandesc ca nimeni nu crede ca undeva in algoritmul lui Google este vreo instructiune de genul “daca in cautare apare cuvantul ‘black’ arata rezultate cu infractori” :)
    Explicatia probabil este cea pe care am vazut-o intr-un reply tot pe Twitter, si anume: stock photos. Mai precis, am vazut de-a lungul vremii mai multi oameni (de exemplu autori de carti cautandu-si poze pt coperte) plangandu-se de faptul ca nu prea exista stock photos cu oameni de culoare. Pe de alta parte, exista zeci de mii de poze cu oameni albi, iar acestea apar in searches (pozele din cautarea cu “three white teenagers” par a fi stock photos). Cum la “three black teenagers” stock photos nu-s, bietul Google a afisat “the next best thing” in ordinea popularitatii, si anume pozele probabil din articole despre arestari (ca nu prea apar in ziare articole despre oameni fericiti/corecti).

    Ce vreau eu sa zic e ca da, un bias exista — oamenii de culoare fiind subreprezentati la capitolul stock photos si suprareprezentati la capitolul arestari (sunt multe studii in US care arata pedepse de dimensiuni diferite pt aceeasi fapta in functie de culoarea faptuitorului). Dar nu e vina lui Google in cazul asta, si clar nu cred ca Google ar trebui sa schimbe nimic. E important sa vedem lumea din jur asa cum e, cu problemele pe care le are — altfel cum le vom rezolva pe problemele respective daca nu stim ca exista?

    Pe de alta parte ceea ce vor ei sa rezolve (si cu Google, si cu eliminarea etniei din inregistrari) este propagarea/confirmarea prejudecatilor existente. Mintea umana favorizeaza informatiile care ii confirma parerile avute deja — i.e. daca eu cred ca romii sunt hoti, urmatoarea data cand aud un raport de politie zicand ca un rom a furat ceva mi se intareste aceasta parere (chiar daca raportul ala era unul din zece, celelalte noua fiind despre ne-romi). Deci ideea de la baza a initiativelor PC din articol e buna, dar un pic in extrema cealalta. Cred c-ar trebui gasita o cale de mijloc — de exemplu sa se inregistreze etnia dar sa nu se faca publica.

    Inca ceva, exemplul cu Tay este neaparat relevant pt articol. Mai precis, Tay a fost tinta unor “trolls” care l-au invatat tot felul de porcarii dinadins. Experimentul nu este o oglinda a lumii in care traim, este daca doriti un fel de “reverse politically correctness” — bietul Tay a fost improscat cu murdarii in procent mult mai mare decat normal, asa ca e de inteles c-a devenit si el la randul lui “murdar”. Si da, algoritmul lui Tay ar trebui schimbat a.i. sa fie rezistent la genul acesta de atacuri, pentru ca nu exista nimic bun ce poate iesi din asta, din contra.

  2. Catalin spune:

    Cred ca ati dorit sa spuneti bias nu byas. In rest aveti perfecta dreptate: “garbage in, garbage out”, asta e frumusetea statisticii.

  3. Eddy Popa spune:

    Asta e capcana corectitudinii politice. Sa alterezi (pretins pozitiv) imaginea pe care societatea o are asupra ei insasi inseamna sa ascunzi cauzele diverselor inechitati. Care poate nici nu sunt intotdeauna inechitati ci particularitati, chiar si etnice sau religioase, a caror negare de dragul progresului este o prostie. Dar cand mii de oameni, altfel mediocri, isi fac o reputatie nu cladind ceva ci proclamandu-se arbitri ai societatii (din perspectiva corectitudinii politice) rezultatul nu poate fi decat o mare si colectiva minciuna.

  4. Ionic spune:

    O mică paranteză. Acum câțiva ani Franța a recurs la deportarea, voalată, a țiganilor din Franța. A fost prima dată de la cel de-al 2-lea Război Mondial când o țară denumește etnic un grup și întreprinde acțiuni controlate împotriva acestui grup etnic. Mișcarea consta în plătirea către țigan unor 300 de € și cheltuielile de transport cu avionul. Partea comică a fost că după 3 săptămâni francezi i-au avut din nou pe țigani în Paris aliniați să le mai dea 300 de € și să le mai facă o deportare.

  5. Ghita Bizonu' spune:

    Totusi sa nu exageram

    Am facut o mica cautare – „three white teenagers” si an gasit si asta :
    http://cjonline.com/sites/default/files/imagecache/superphoto/15042220.jpg
    infractori toata ziua : 3 Junction City men arrested in kidnapping, robbery where victim was shot in head White, White trashes
    Si desi primele poze de la “„three black teenagers” sunt cam in gebul celor 3 white trashes se gaseste si poza asta :
    http://www.blacknews.com/wp-content/uploads/2016/03/three_teens_killed_distracted_driving.jpg
    Din pacate (ptr fatuce) poza este legata de o stire “judiciara” Cele 3 au fost victmile unui sofer care vorbea la telefon …

  6. Jaime spune:

    Corectitudinea politica sterilizeaza dezbaterea sanatoasa, si pe vremea lui ceusescu la partid se dezbateau problemele, dar vorbitorul avea voie sa zburde doar pe o anumita parcela de gandire, “sefii ce mari nu puteau gresi ” “sistemul comunist era cel mai bun” etc.

    De fapt supararea votantilor care se intreapta spre partidele identitare eurosceptice, simt o mare diferenta intre discursul oficial cliseu si realitate, Donald Trump chiar asta a facut , a recunoscut probleme pe care ceilalti omiteau in discursul lor.

  7. N!ck spune:

    “Google e o maşină de căutare; ei nu produc conţinut ci doar îl indexează pe cel existent”
    Algoritmul de indexare este cel care prin schimbarile dese (aproximativ 500~600 in fiecare an) ofera perceptia unei unelte ce manipuleaza. Una din cele mai noi reguli implementate se refera la rezultatele care sunt afisate pe mobil vs. rezultate afisate pe desktop. Altfel spus website-uri “mobile-friendly” obtin locuri fruntase pe mobil in detrimentul celor care nu indeplinesc acest criteriu.
    Corect sau nu modul de functionare al Google-ului va primi cat de curand un nou layer pentru a furniza rezultatele cat mai aprope de zona de interes al utilizatorului.
    Poate ca uni ar spune atunci “curat” manipulare… Sau poate nu!



Comenteaza:







Do NOT fill this !

Autor

Mihai Badici


Mihai Badici

Absolvent al Facultății de Electronică si Telecomunicații București ( 1991) si doctorand al aceleiași facultăți. Administrator de sistem cu peste zece ani de experienț... Citeste mai departe


MIHAI MACI – Cel de-al doilea volum din Colectia Contributors.ro

"Atunci când abdică de la menirea ei, școala nu e o simplă instituție inerțială, ci una deformatoare. Și nu deformează doar spatele copiilor, ci, în primul rând, sufletele lor. Elevul care învață că poate obține note mari cu referate de pe internet e adultul de mâine care va plagia fără remușcări, cel care-și copiază temele în pauză va alege întotdeauna scurtătura, iar cel care promovează cu intervenții va ști că la baza reușitei stă nu cunoașterea, ci cunoștințele. Luate indi­vidual, lucrurile acestea pot părea mărunte, însă cumulate, ele dau măsura deformării lumii în care trăim și aruncă o umbră grea asupra viitorului pe care ni-l dorim altfel." - Mihai Maci

E randul tau

cu ani in urma un prieten cambodgian mi-a povestit cum a fost omorat pe taica-sau pe vremea khmerilo...

de: r2

la "Ce-ar fi să vorbim cu-adevărat corect politic despre Fidel Castro?"

Cauta articole

decembrie 2016
Lu Ma Mi Jo Vi Du
« Noi    
 1234
567891011
12131415161718
19202122232425
262728293031  

Valentin Naumescu – Marile schimbari. Crize si perspective in politica internationala. Editie bibliofila

contributors.ro

Contributors.ro este intr-o permanenta cautare de autori care pot da valoare adaugata dezbaterii publice. Semnaturile noi sunt binevenite cata vreme respecta regulile de baza ale site-ului. Incurajam dezbaterea relaxata, bazata pe forta argumentelor.
Contact: editor[at]contributors.ro

(An essay by Vladimir Tismaneanu and Marius Stan)