Kako veštačka inteligencija diskriminiše osobe sa invaliditetom
Alati koji su napravljeni da poboljšaju proces selekcije kandidata, a krše etičke standarde, ni malo nisu bezazleni, već jako štetni.
Ilustracija (Izvor: Envato)
Posledice diskriminacije prilikom algoritamskog zapošljavanja postaju sve vidljivije, posebno kada je reč o osobama sa nekom vrstom invaliditeta.
Procenjuje da čak 99 odsto Fortune 500 kompanija koristi veštačku inteligenciju u procesima zapošljavanja.
Pitanje invaliditeta izostavljeno iz zakona
Grad Njujork je prošle godine usvojio Zakon o automatizovanom alatu za odlučivanje o zapošljavanju (Automated Employment Decision Tool Act).
To znači da kompanije koje koriste AI za zapošljavanje moraju da prođu kroz provere kako bi se utvrdilo da li ovi sistemi diskriminišu kandidate na osnovu njihovog pola, etničke pripadnosti…
Međutim, ovaj zakon, koji je bio prvi takve vrste, izostavio je pitanje osoba sa invaliditetom.
Kako AI diskriminiše osobe sa invaliditetom?
Prvo, termin invaliditet (eng. disability) opisuje niz stanja koja nisu podjednako zastupljena tokom obuke algoritma o podacima.
Pored skeniranja radne biografije, AI procenjuje ličnost kandidata i koliko će dobro raditi svoj posao na osnovu toga kako igra video igricu, govori ili se pomera na video snimku.
Ovo stvara diskriminaciju na dva fronta. Tehnologija video analize ima poteškoća u registrovanju ljudi obojene kože i onih koji imaju neki oblik invaliditeta koji utiče na njihov izgled.
Dodatno, ovi alati ne mogu da razaznaju mentalne sposobnosti i emocije, iako se tvrdi suprotno, piše The Hill.
Na primer, AI može da oceni nekog ko zamuckuje ili ima govornu manu kao da ima ’’loše veštine komunikacije’’ i odbije ga.
Oni koji imaju oštećen vid, verovatno će teško održavati kontakt očima sa kamerom, nakon čega će ih veštačka inteligencija percipirati kao ’’nekoncentrisane’’.
Kako i da li uopšte može da se reši ovaj problem?
Ovi algoritmi su razvijani godinama i otporni su na promene, tako da ne postoji jedna korektivna mera kojom bi se rešio problem pristrasnosti duboko ugrađen u kodove.
Pojedini političari kažu da je jedino rešenje za ukidanje diskriminacije potpuna zabrana veštačke inteligencije prilikom zapošljavanja.
Na kraju, njujorški zakonodavci čine lošu uslugu radnoj snazi jer uporno izbegavaju zahteve za zabranu ovih alatki. (Kompas/Nova ekonomija)