Facebook-ov algoritam označava crnce kao primate

Facebook-ov sistem veštačke inteligencije ponudio je korisnicima nakon što su pogledali snimak sa grupom crnaca da nastave da gledaju sadržaj sa primatima.

 

„Izvinjavamo se svima koji su videli uvredljive preporuke“, saopštio je Facebook, dodajući da je algoritam, koji na osnovu pređašnjih pregledanih sadržaja daje preporuke za buduće gledanje, ukinut do daljeg.

Darsi Grovs, bivša menadžerka sadržaja u Facebook-u, rekla je da joj je prijatelj poslao zamrznuti kadar snimka na kom je bila grupa crnaca, a ispod njega je stajala automatski generisano pitanje za gledaoce: „Da li želite da nastavite da gledate snimke o primatima?“

Snimak u pitanju sadržao je dva odvojena incidenta u SAD – prvi sa grupom Afroamerikanaca koji se svađaju sa belcem u Konektikatu i drugi na kom se nekoliko crnaca prepire sa policajcem pre hapšenja u Indijani.

Grovs je postavila zamrznuti kadar na forum za bivše i sadašnje radnike u Facebook-u, a jedan od menadžera u kompaniji je rekao da je to neprihvatljivo i obećao istragu, prenosi Njujork tajms.

Facebook je prošle godine oformio tim za Instagram čiji je zadatak da prouči kako na pripadnike različitih rasa i etničkih grupa utiču algoritmi. To je učinjeno nakon kritika da ta društvena mreža ignoriše rasnu diskriminaciju na svojoj platformi.

Algoritmi koje koriste tehnološke kompanije već su bili na meti kritika. Tako je Google 2015. godine morao da se izvini jer je njihova aplikacija označavala crnce na fotografijama kao gorile.

 
Izvor: RTS