Da li je veštačka inteligencija seksistička?

Pošto je veštačka inteligencija ušla u naš svakodnevni život, studije sugerišu da ona dovodi u nepovoljniji položaj žene, ograničavajući ih na rodne stereotipe i reprodukujući nejednakosti.

U poslednje vreme, softver za veštačku inteligenciju je stalno u vestima. Izuzetno brz napredak u ovoj oblasti je, zapravo, omogućio pokretanje testnih verzija za širu javnost, koje omogućavaju generisanje celog teksta ili fotografije u nekoliko klikova. Međutim, AI (veštačka inteligencija) otvara brojna pitanja jer su ove slike ili izmišljeni sadržaji sada optuženi da reprodukuju seksističke stereotipe.

AI prikazuje seksistički sadržaj

Ovako je 8. marta 2023. godine, povodom Međunarodnog dana prava žena, udruženje #JamaisSansElles izvelo poučan eksperiment: ako na Midjournei ukucate „CEO“, softver vrlo brzo generiše na desetine fotografija belaca u odelima koji sede za njihovim stolovima. S druge strane, ako upišete „sekretar“, AI nudi panel seksi mladih žena sa naočarima, čije su grudi jasno istaknute pripijenom bluzom…

Istraživači su tako identifikovali druge primere pristrasnosti. Isabelle Collet, informatičar i profesor na Univerzitetu u Ženevi, istakla je da kada pitate Gugl „šta je školarac?“, nailazite na fotografije devojčica i dečaka u školi. S druge strane, ako ukucate „šta je učenica?“ završavate sa erotizovanim fotografijama mladih devojaka u seksi odeći. I tako dalje.

Zašto je tako? AI replicira kognitivne predrasude onih koji ih stvaraju, a to su pretežno muškarci. Natacha Quester-Séméon, direktorka udruženja #JamaisSansElles, objašnjava ovaj mehanizam: „Veštačka inteligencija radi kao agregator podataka, po modelu pretraživača. Stoga nužno reprodukuje kognitivne predrasude onih koji ih kreiraju, tj. koji su pretežno muškarci“.

AI bi stoga nehotice reprodukovao muški pogled, ovu prizmu za čitanje sveta koja je namenjena da bude univerzalna, ali u stvarnosti odgovara muškoj mentalnoj mašti. Natacha nastavlja: ​​„Primetili smo da su žene bile ograničene na određene uloge i da su bile nevidljive u pogledu odgovornih pozicija prilikom razvoja AI“.

Da li postoji način da se AI oslobodi seksizma?

A sad malo ozbiljnije posledice: AI za zapošljavanje, koje sve više koriste kompanije, takođe bi doveo u nepovoljniji položaj žene. Amazon je 2015. morao da deaktivira svoj namenski softver nakon što je shvatio da favorizuje muškarce. Zaista, nakon godinu dana, grupa je otkrila da su biografije žena sistematski dobijale niže ocene ili su bivale odbačene.

Fenomen koji je naveo Fondaciju za žene, žene inženjere i nevladinu organizaciju Global Witness da podnesu žalbu Nacionalnoj komisiji za računarstvo i slobode (CNIL) protiv Fejsbuka zbog seksističke pristrasnosti u algoritmima. Prema testu koji je sproveo Global Witness, za poziciju sekretarice ciljano je 92% žena, a 85% muškaraca za poziciju pilota u avio-kompaniji…

Objašnjenje: skoro svi programeri su muškarci i oslanjaju se na masovno „falocentrične“ podatke od nastanka interneta, sa malo informacija o ženama. Oni uglavnom ne odgovaraju stvarnosti. Recimo, na pojam pisac, Google će ponuditi samo 26 odsto slika žena, a u stvarnosti čak 56 odsto pisaca je ženskog pola! A pošto je „krivac“ za ovo višak muške radne snage, jedno od rešenja jeste da se više žena angažuje u IT industriji.

Sedamdesetih godina prošlog veka žene su činile 30% sektora. Ali od 1980-ih, njihovo prisustvo je počelo da se smanjuje sve dok sada ne predstavlja samo 12% zaposlenih u oblasti veštačke inteligencije.

Dekodiranje AI je dovoljno

Flora Vincent brani uspostavljanje kvota. Prema njenim rečima, za promenu mentaliteta bilo bi potrebno 30 do 40 odsto žena na razvojnim pozicijama. Ali pre postizanja ovog cilja potrebno je reprogramirati algoritme. Za istraživača, „jednakost leži u kodu! Apsolutno možemo tražiti od AI za zapošljavanje da izaberu više žena, ili da ponude jednake plate bez obzira na pol. To je pitanje političke volje.“.

Ambiciozna, ali neophodna promena pogleda. Podsetimo se Marije Kiri koja je novinarki koja je pitala kako je živeti sa genijem odgovorila: „Idi i pitaj mog muža!“.

Izvor vesti: marieclaire.fr

Izvor slike: Rudzhan Nagion/iStock/GettyImagesPlus