vineri, martie 29, 2024

Google si corectitudinea politica

O observaţie postată de un anume Kabir Alli pe Tweeter (link aici) a suscitat un val de discuţii pe Internet. Pe scurt, o căutare pe Google după imagini cu „three black teenagers” returnează un şir de fotografii din care unele seamănă destul de bine cu cele luate de poliţie infractorilor; în schimb, „three white teenagers” găseşte mai degrabă rezultatele pe care le asociem în mod normal cu vârsta adolescenţei: tineri zâmbitori în ipostaze pozitive.

De aici discuţia: este deci Google rasist? Acum câteva luni Microsoft a trecut printr-o experienţă similară: chatbot-ul lor, roboţelul vorbitor dotat cu algoritmi de învăţare, a luat-o razna şi a început să debiteze replici rasiste.(link la întâmplare, aici)

Bineînţeles, Google a trebuit să răspundă şi a spus ceea ce trebuie spus: Google e o maşină de căutare; ei nu produc conţinut ci doar îl indexează pe cel existent. Rezultatul este deci, rasist, pentru că Internetul e rasist, iar Internetul e rasist pentru că societatea care îl produce e rasistă.

Microsoft a anunţat că va face unele modificări în algoritmii lui Tay. E uşor de presupus care vor fi acelea. Suntem în una din situaţiile care tinde să devină tipică pentru „corectitudinea politică”, şi anume aceea de a elimina o parte din datele de intrare din motive care nu ţin de statistică. Însă atunci când alterezi ipoteza, există şanse mari să alterezi şi rezultatul. Lucrând pe date cu un „byas” evident, e lesne de înţeles că şi rezultatul va avea un „byas” asemănător. Vom obţine deci „robotul nou”, varianta cibernetică a „omului nou” comunist, din al cărui bagaj de cunoştinţe lipsesc capitole întregi.

În plus, experimentul eşuat al Microsoft ( pentru că în aceste condiţii e greu să mai discutăm de „machine learning”) ne privează de răspunsul la o întrebare mai subtilă: nu cumva maşina, la fel ca societatea umană, ar fi putut evolua în timp, de la reacţiile primare ( din câte am văzut eu, destul de influenţate de campania lui Trump, care e un fenomen episodic) la o înţelegere mai complexă a culturii? Poate că ar fi trebuit să îi dăm şi maşinii să „ronţăie” cărţile clasice ale culturii universale, înainte de a o lăsa de capul ei pe Twitter. Ah, dar vai…. cam asta facem şi cu copiii noştri.

Discuţia este însă mai amplă, pentru că ajunge să afecteze înseşi bazele cercetării ştiinţifice. Putem oare îndepărta unele rezultate doar pentru că pun într-o lumină defavorabilă o anumită categorie? Există ţări, de exemplu Franţa, în care aflu că este interzisă specificarea etniei în înregistrările poliţiei ( am auzit la radio un reprezentant al romilor cerând acelaşi lucru la noi) . Dar eliminând această rubrică, automat facem mult mai dificilă orice cercetare sociologică pe tema delincvenţei pentru  anumite etnii, ceea ce poate împiedica inclusiv formularea de soluţii pentru rezolvarea problemei acestora.  Este aceasta o cale de urmat? Nu cumva ajungem la soluţia struţului, ignorând problemele în loc să le studiem şi să le rezolvăm?

În definitiv, Google ne pune în faţă o oglindă a lumii în care trăim. Într-o lume ideală, nu ar trebui să existe „corectitudine politică” pentru că nu ar exista excluziune socială. Da, avem posibilitatea să „cosmetizăm” Google, şi poate chiar întreg Internetul. Dacă însă nu trăim într-o realitate virtuală cum crede Elon Musk , nu putem cosmetiza şi lumea din jurul nostru. Va trebui să o reparăm de-adevăratelea.

Distribuie acest articol

7 COMENTARII

  1. Sunt de partea lui Google aici, adica ma gandesc ca nimeni nu crede ca undeva in algoritmul lui Google este vreo instructiune de genul „daca in cautare apare cuvantul ‘black’ arata rezultate cu infractori” :)
    Explicatia probabil este cea pe care am vazut-o intr-un reply tot pe Twitter, si anume: stock photos. Mai precis, am vazut de-a lungul vremii mai multi oameni (de exemplu autori de carti cautandu-si poze pt coperte) plangandu-se de faptul ca nu prea exista stock photos cu oameni de culoare. Pe de alta parte, exista zeci de mii de poze cu oameni albi, iar acestea apar in searches (pozele din cautarea cu „three white teenagers” par a fi stock photos). Cum la „three black teenagers” stock photos nu-s, bietul Google a afisat „the next best thing” in ordinea popularitatii, si anume pozele probabil din articole despre arestari (ca nu prea apar in ziare articole despre oameni fericiti/corecti).

    Ce vreau eu sa zic e ca da, un bias exista – oamenii de culoare fiind subreprezentati la capitolul stock photos si suprareprezentati la capitolul arestari (sunt multe studii in US care arata pedepse de dimensiuni diferite pt aceeasi fapta in functie de culoarea faptuitorului). Dar nu e vina lui Google in cazul asta, si clar nu cred ca Google ar trebui sa schimbe nimic. E important sa vedem lumea din jur asa cum e, cu problemele pe care le are – altfel cum le vom rezolva pe problemele respective daca nu stim ca exista?

    Pe de alta parte ceea ce vor ei sa rezolve (si cu Google, si cu eliminarea etniei din inregistrari) este propagarea/confirmarea prejudecatilor existente. Mintea umana favorizeaza informatiile care ii confirma parerile avute deja – i.e. daca eu cred ca romii sunt hoti, urmatoarea data cand aud un raport de politie zicand ca un rom a furat ceva mi se intareste aceasta parere (chiar daca raportul ala era unul din zece, celelalte noua fiind despre ne-romi). Deci ideea de la baza a initiativelor PC din articol e buna, dar un pic in extrema cealalta. Cred c-ar trebui gasita o cale de mijloc – de exemplu sa se inregistreze etnia dar sa nu se faca publica.

    Inca ceva, exemplul cu Tay este neaparat relevant pt articol. Mai precis, Tay a fost tinta unor „trolls” care l-au invatat tot felul de porcarii dinadins. Experimentul nu este o oglinda a lumii in care traim, este daca doriti un fel de „reverse politically correctness” – bietul Tay a fost improscat cu murdarii in procent mult mai mare decat normal, asa ca e de inteles c-a devenit si el la randul lui „murdar”. Si da, algoritmul lui Tay ar trebui schimbat a.i. sa fie rezistent la genul acesta de atacuri, pentru ca nu exista nimic bun ce poate iesi din asta, din contra.

  2. Cred ca ati dorit sa spuneti bias nu byas. In rest aveti perfecta dreptate: „garbage in, garbage out”, asta e frumusetea statisticii.

  3. Asta e capcana corectitudinii politice. Sa alterezi (pretins pozitiv) imaginea pe care societatea o are asupra ei insasi inseamna sa ascunzi cauzele diverselor inechitati. Care poate nici nu sunt intotdeauna inechitati ci particularitati, chiar si etnice sau religioase, a caror negare de dragul progresului este o prostie. Dar cand mii de oameni, altfel mediocri, isi fac o reputatie nu cladind ceva ci proclamandu-se arbitri ai societatii (din perspectiva corectitudinii politice) rezultatul nu poate fi decat o mare si colectiva minciuna.

  4. O mică paranteză. Acum câțiva ani Franța a recurs la deportarea, voalată, a țiganilor din Franța. A fost prima dată de la cel de-al 2-lea Război Mondial când o țară denumește etnic un grup și întreprinde acțiuni controlate împotriva acestui grup etnic. Mișcarea consta în plătirea către țigan unor 300 de € și cheltuielile de transport cu avionul. Partea comică a fost că după 3 săptămâni francezi i-au avut din nou pe țigani în Paris aliniați să le mai dea 300 de € și să le mai facă o deportare.

  5. Totusi sa nu exageram

    Am facut o mica cautare – „three white teenagers” si an gasit si asta :
    http://cjonline.com/sites/default/files/imagecache/superphoto/15042220.jpg
    infractori toata ziua : 3 Junction City men arrested in kidnapping, robbery where victim was shot in head White, White trashes
    Si desi primele poze de la „„three black teenagers” sunt cam in gebul celor 3 white trashes se gaseste si poza asta :
    http://www.blacknews.com/wp-content/uploads/2016/03/three_teens_killed_distracted_driving.jpg
    Din pacate (ptr fatuce) poza este legata de o stire „judiciara” Cele 3 au fost victmile unui sofer care vorbea la telefon …

  6. Corectitudinea politica sterilizeaza dezbaterea sanatoasa, si pe vremea lui ceusescu la partid se dezbateau problemele, dar vorbitorul avea voie sa zburde doar pe o anumita parcela de gandire, „sefii ce mari nu puteau gresi ” „sistemul comunist era cel mai bun” etc.

    De fapt supararea votantilor care se intreapta spre partidele identitare eurosceptice, simt o mare diferenta intre discursul oficial cliseu si realitate, Donald Trump chiar asta a facut , a recunoscut probleme pe care ceilalti omiteau in discursul lor.

  7. „Google e o maşină de căutare; ei nu produc conţinut ci doar îl indexează pe cel existent”
    Algoritmul de indexare este cel care prin schimbarile dese (aproximativ 500~600 in fiecare an) ofera perceptia unei unelte ce manipuleaza. Una din cele mai noi reguli implementate se refera la rezultatele care sunt afisate pe mobil vs. rezultate afisate pe desktop. Altfel spus website-uri „mobile-friendly” obtin locuri fruntase pe mobil in detrimentul celor care nu indeplinesc acest criteriu.
    Corect sau nu modul de functionare al Google-ului va primi cat de curand un nou layer pentru a furniza rezultatele cat mai aprope de zona de interes al utilizatorului.
    Poate ca uni ar spune atunci „curat” manipulare… Sau poate nu!

LĂSAȚI UN MESAJ

Vă rugăm să introduceți comentariul dvs.!
Introduceți aici numele dvs.

Autor

Mihai Badici
Mihai Badici
Absolvent al Facultății de Electronică si Telecomunicații București ( 1991) Administrator de sistem cu peste zece ani de experiență cu specializari in sisteme de stocare si securitatea datelor. De asemenea a absolvit in 1996 Facultatea de Litere la Universitatea Bucuresti. In prezent, consultant IT independent, colaboreaza pe mai multe proiecte legate de infrastructura de date.

Sprijiniți proiectul Contributors.ro

Pagini

Carti noi

 

Cu acest volum, Mirel Bănică revine la mai vechile sale preocupări și teme de cercetare legate de relația dintre religie și modernitate, de înțelegerea și descrierea modului în care societatea românească se raportează la religie, în special la ortodoxie. Ideea sa călăuzitoare este că prin monahismul românesc de după 1990 putem înțelege mai bine fenomenul religios contemporan, în măsura în care monahismul constituie o ilustrare exemplară a tensiunii dintre creștinism și lumea actuală, precum și a permanentei reconfigurări a raportului de putere dintre ele.
Poarta de acces aleasă pentru a pătrunde în lumea mănăstirilor o reprezintă ceea ce denumim generic „economia monastică”. Autorul vizitează astfel cu precădere mănăstirile românești care s-au remarcat prin produsele lor medicinale, alimentare, cosmetice, textile... Cumpara cartea de aici

Carti noi

În ciuda repetatelor avertismente venite de la Casa Albă, invazia Ucrainei de către Rusia a șocat întreaga comunitate internațională. De ce a declanșat Putin războiul – și de ce s-a derulat acesta în modalități neimaginabile până acum? Ucrainenii au reușit să țină piept unei forte militare superioare, Occidentul s-a unit, în vreme ce Rusia a devenit tot mai izolată în lume.
Cartea de față relatează istoria exhaustivă a acestui conflict – originile, evoluția și consecințele deja evidente – sau posibile în viitor – ale acestuia. Cumpara volumul de aici

 

Carti

După ce cucerește cea de-a Doua Romă, inima Imperiului Bizantin, în 1453, Mahomed II își adaugă titlul de cezar: otomanii se consideră de-acum descendenții Romei. În imperiul lor, toleranța religioasă era o realitate cu mult înainte ca Occidentul să fi învățat această lecție. Amanunte aici

 
„Chiar dacă războiul va mai dura, soarta lui este decisă. E greu de imaginat vreun scenariu plauzibil în care Rusia iese învingătoare. Sunt tot mai multe semne că sfârşitul regimului Putin se apropie. Am putea asista însă la un proces îndelungat, cu convulsii majore, care să modifice radical evoluţiile istorice în spaţiul eurasiatic. În centrul acestor evoluţii, rămâne Rusia, o ţară uriaşă, cu un regim hibrid, între autoritarism electoral şi dictatură autentică. În ultimele luni, în Rusia a avut loc o pierdere uriaşă de capital uman. 
Cumpara cartea

 

 

Esential HotNews

contributors.ro

Contributors.ro este intr-o permanenta cautare de autori care pot da valoare adaugata dezbaterii publice. Semnaturile noi sunt binevenite cata vreme respecta regulile de baza ale site-ului. Incurajam dezbaterea relaxata, bazata pe forta argumentelor.
Contact: editor[at]contributors.ro