Key Takeaways
- AI sistemi koji nadgledaju kamione za dostavu nepravedno kažnjavaju vozače Amazona, tvrdi novi izvještaj.
- Sistem Amazon dio je rastućeg trenda kompanija koje koriste tehnologiju za daljinsko praćenje svojih poslodavaca.
-
Neki softver AI omogućava poslodavcima da kontinuirano prate ponašanje zaposlenih u pozadini i crtaju obrasce u njihovom toku rada.
Poslodavci se sve više okreću softveru za daljinsko praćenje zaposlenih, izazivajući zabrinutost među nekim zagovornicima privatnosti.
Novi izvještaj tvrdi da su kamere sa AI pogonom u Amazonovim dostavnim vozilima nepravedno kažnjavale vozače. Članak je otkrio da su vozači patili od pogrešnih upozorenja, pogrešnih tablica rezultata vozača, nepraktičnih pretpostavki o stanju u saobraćaju i da su vozači usvojili praksu da zaobiđu tehnologiju.
"Dok se AI poboljšava, greške će se i dalje praviti", rekao je Raymond Ku, direktor Centra za pravo i politiku kibernetičkog prostora na Univerzitetu Case Western Reserve, u intervjuu za Lifewire. "Radi poštenja, mislim da svi vjerujemo da neko ko je kažnjen na bilo koji način donošenjem odluka AI treba biti svjestan te činjenice i dati mu priliku da ospori odluku."
Amazonove AI kamere
Amazon je rekao da je instalirao kamere sa AI pogonom u svoja dostavna vozila kao sigurnosnu mjeru. Kamere su namijenjene za nadgledanje kada vozači dostavljača izvode opasne manevre kao što su pokretanje znakova za zaustavljanje ili nezakonito polukružno okretanje.
Kada kamere uoče moguće "događaje" u nebezbednoj vožnji, ovi slučajevi utiču na rezultate rada radnika. Niži rezultati smanjuju šanse da vozači dobiju bonuse, dodatnu platu i nagrade.
Ali vozači Amazona rekli su matičnoj ploči da su kažnjeni zbog nekih vozačkih navika koje se smatraju sigurnim ili izvan njihove kontrole. Amazon nije odgovorio na zahtjev Lifewirea za komentar.
Ku je istakao da pošto su vozači pristali da budu snimljeni, ne pate od invazije na privatnost prema zakonu.
"Međutim, to ne znači da bi prosječan radnik bio zadovoljan nadzorom ili da se ne bi protivio da može", dodao je. "Ovo je posebno tačno kada nadzor počne da zadire u tradicionalnije lične prostore."
Izvještaj postavlja šira pitanja o tome da li se podacima može pristupiti i koristiti u tužbama ili od strane policije i saveznih zvaničnika, rekla je za Lifewire advokat za zaštitu privatnosti Bethany A. Corbin u intervjuu putem e-pošte. To bi također moglo uticati na odgovornost, istakla je.
"Na primjer, ako AI tehnologija kaže zaposleniku da ne gleda u bočne retrovizore i zaposleni doživi nesreću kao direktnu posljedicu tog savjeta, ko je kriv?" Corbin je dodao.
Rasteći nadzor
Nadzor ne prestaje sa Amazonom. Sve veći broj kompanija koristi tehnologiju da gleda svoje zaposlene na daljinu, rekao je stručnjak za privatnost Chris Hauk za Lifewire u intervjuu e-poštom.
Na primjer, AI marketinška firma Blackbelt koristi sistem za praćenje vremena dodjeljivanja, omogućavajući kompaniji da nadgleda i prati kompjuterske aktivnosti svojih zaposlenika autonomno. Microsoft Workplace Analytics omogućit će poslodavcima da prate dužinu radnog vremena zaposlenika na web stranicama, pisanje e-pošte i još mnogo toga tokom radnog dana.
Walmart takođe radi na sistemu koji osluškuje zvuk šuštanja torbi ili bipove sa skenera za naplatu kako bi pratio metriku zaposlenih i osigurao da zaposleni obavljaju svoje zadatke ispravno i efikasno. Senzori čak mogu prisluškivati kupce dok razgovaraju dok su u redu i otkrivaju da li zaposlenici pravilno pozdravljaju kupce.
Nadzor na radnom mestu postaje sve prisutniji od početka pandemije, rekao je stručnjak za privatnost Pankaj Srivastava za Lifewire u intervjuu e-poštom.
"Većina ove tehnologije pozicionirana je kao 'poboljšavanje produktivnosti', međutim, način na koji neki od ovih alata funkcionišu sugeriše veću toleranciju poslodavaca da prate svaku aktivnost svoje radne snage", dodao je on. "Na primjer, praćenje koliko vremena zaposleni provode na svakom zadatku, snimanje udaljene fotografije kako bi se osiguralo da su zaposleni za svojim stolom, pa čak i praćenje posjećenih web stranica i snimanje poteza tastature i pokreta miša."
Dok se AI poboljšava, greške će se i dalje praviti.
Neki softver AI omogućava poslodavcima da kontinuirano prate ponašanje zaposlenih u pozadini i crtaju obrasce u njihovom toku rada, rekao je.
"Zaposlenik može biti otpušten na osnovu njihovog personalizovanog izveštaja o učinku, navodeći da mu je trebalo nekoliko minuta duže da završe zadatak nego inače", rekao je Srivastava.
"Zbogom, pauze za kupatilo."
