Kad na engleskom guglate „brazilske žene“ ili „ukrajinske žene“, dobijete golotinju. Kad guglate „nemačke žene“, dobijete Angelu Merkel ili Ursulu van der Lejen.
Guglov pretraživač podstiče seksističke klišee a istraživanje DW pokazalo je do kakvih iskrivljenih rezultata dovode algoritmi pretraživačkog giganta. Tim DW analizirao je više od 20.000 slika i internet stranica i ishod je bio poražavajući.
Pretraživanje na engleskom, kada se upišu reči „dominikanske žene“, „brazilske žene“, „tajlandske žene“ ili „ukrajinske žene“, više vodi ka slikama mladih žena u izazovnim pozama, oskudno odevenih nego kada se upišu reči „američke žene“.
Međutim, ukoliko na Guglu na engleskom upišete „nemačke žene“, prvenstveno se pojavljuju fotografije političarki i sportistkinja, recimo Angele Merkel I Ursule van der Lejen.
Ovi rezultati su jako zanimljivi jer je Organizacija UN za žene pre devet godina već vodila kampanju zbog seksizma na Internet pretraživačima. Tada je pokrenuta akcija lepljenja plakata na kojima se vide žene kojima je preko usta zalepljen Guglov pretraživač sa navedenim pojmovima.
„Na pretraživačima se vidi koliko ima seksizma protiv žena. Bile smo iznenađene i šokirane ponuđenim pojmovima u pretraživaču“, pričala je Nanet Braun iz organizacije UN za žene. „Ideja je bila da taj šok prikažemo na plakatima.“
Kampanja je tada uspela ali pretraživači i dalje ne mogu u potpunosti da se oslobode svojih “seksističkih stavova” a algoritmi nastavljaju da izlažu žene diskriminaciji.
“Veštačka inteligencija i ostale tehnologije koje koriste algoritme danas značajno oblikuju naš život i to svakodnevno“, objašnjava Džoj Lisi Rankin, vodeća istraživačica pojmova roda, rase i moći u veštačkoj inteligenciji na institutu u Njujorku.
„To retko razumemo zato što nam je tehnologija nevidljiva, a način na koji ona deluje nije nimalo transparentan. Ti algoritamski sistemi određuju, na primer, ko ima pristup važnim resursima i prednostima“, dodaje ona.
Jedan od najpoznatijih slučajeva diskriminacije na osnovu upotrebe veštačke inteligencije bio je pokušaj kompanije „Amazon“ da automatizuje svoj sistem zapošljavanja novih radnika. “Amazonovi” kompjuterski modeli bili su obučavani tako da odbijaju kandidate za posao na osnovu obrazaca u biografijama kandidata koji su ih dostavili tokom deset prethodnih godina. Međutim, smatrajući da je to industrija kojom dominiraju muškarci, većinu tih biografija dostavili su muškarci, stvarajući predrasudu u mašinskom učenju, tako da je veštačka inteligencija bila naklonjenija muškim kandidatima.
Oblast u kojoj rodno pristrasni algoritmi imaju presudan uticaj na život žena jesu pretraživači i društvene mreže.
„Oni različito kategorizuju i tretiraju korisnike uzimajući u obzir niz stereotipa“, kaže Suzan Levi, istraživačica sa Univerziteta u Dablinu. “Najopasnije je kada se te procene koriste za slanje personalizovanih oglasa, posebno mladima koji lakše podležu raznim uticajima.”
Na primer, društvena mreža Fejsbuk je belcima objavljivala oglase za bolje plaćene poslove, dok su ženama i ljudima druge boje kože prikazivani oglasi za lošije plaćene poslove.
Kad u pretraživač Gugl unesete „black girls“ ili „Latinas“, dobijete seksističke ili pornografske rezultate.
Seksizam se javlja i kod još jednog poznatog Guglovog proizvoda. Google Translate jedan je od najkorištenijih Alphabetovih proizvoda, a iako je reč o kompjuterskom programu – i njega je ipak napisao čovek. To postaje očigledno kada se Translate koristi za prevode s jezika poput finskog, mađarskog i drugih u kojima ne postoje rodne odrednice i zamenice na koje smo navikli u drugim jezicima.
Ovi su jezici rodno neutralni a dvostruki prevod pokazao je koliko je ovaj alat “seksistički”. Iako mađarski nema zamenice za nju i njega, Google Translate ih automatski dodaje. Pa je tako ONA lepa, ON pametan. ON čita, ONA pere sudove. ON gradi, ONA šije. ON podučava, ONA kuva. ON je istraživač, ONA odgaja decu. ON je političar, ONA je domaćica. ON mnogo zarađuje, ONA peče tortu….
Novi propisi Evropske unije za razvoj veštačke inteligencije govore o razvijanju svesti ali će za takav proces biće potrebno možda celih deset godina, procenjuju stručnjaci i stručnjakinje.
Comments are closed.