Twitter je objavio rezultate svog otvorenog takmičenja kako bi pronašao predrasude u svom sistemu za izrezivanje fotografija.
Izazov bounty otvoren je u julu nakon što su korisnici Twittera pokazali da automatizirana alatka za izrezivanje daje prednost licima ljudi svjetlije puti u odnosu na lica tamnijeg tena. To je pokrenulo neka pitanja o tome kako je softver dao prioritet boji kože i određenim faktorima u odnosu na druge.
Izazov je nastojao da pronađe koje druge greške i predrasude sistem izrezivanja može imati kako bi se riješili problemi.
Prvo mjesto pripalo je Bogdanu Kulynychu, čija je prijava pokazala kako filteri ljepote mogu igrati model bodovanja algoritma, koji, zauzvrat, pojačavaju tradicionalne standarde ljepote. Podnesak je pokazao da algoritam preferira mlada i vitka lica sa svijetlim ili toplim tonovima kože. Kulynych je osvojio $3,500.
Drugo mjesto pripalo je HALT AI, tehnološkom startupu u Torontu, koji je otkrio da su slike starijih i invalidnih osoba izrezane sa fotografija. Tim je dobio $2,000 za drugo mjesto.
Treće mjesto i 500 dolara pripalo je Roya Pakzadu, osnivaču Taraaz Research-a, koji je otkrio da algoritam daje prednost izrezivanju latiničnih pisama u odnosu na arapska, što bi moglo naštetiti jezičkoj raznolikosti.
Detaljne rezultate je na DEF CON 29 predstavio Rumman Chowdhury, direktor Twitterovog META tima. META tim proučava nenamjerne probleme u algoritmima i uklanja sve vrste rodnih i rasnih predrasuda koje takvi sistemi mogu imati.
Podaci dobijeni iz ovog takmičenja će se koristiti za ublažavanje grešaka i pristrasnosti u algoritmu izrezivanja i pomoći u osiguravanju inkluzivnijeg okruženja.
