Key Takeaways
- Novo istraživanje otkriva da ljudi ne mogu odvojiti slike generirane umjetnom inteligencijom od stvarnih.
- Učesnici su ocijenili slike generirane umjetnom inteligencijom kao pouzdanije.
- Stručnjaci vjeruju da bi ljudi trebali prestati vjerovati svemu što vide na internetu.
Izreka 'vidjeti je vjerovati' više nije relevantna kada je u pitanju internet, a stručnjaci kažu da neće uskoro biti bolje.
Nedavna studija je otkrila da slike lica generirane umjetnom inteligencijom (AI) nisu bile samo visoko fotorealistične, već su izgledale i kreposnije od stvarnih lica.
"Naša procena fotorealizma lica sintetizovanih veštačkom inteligencijom ukazuje na to da su motori sinteze prošli kroz neobičnu dolinu i da su sposobni da stvore lica koja se ne mogu razlikovati i verodostojnija od stvarnih", primetili su istraživači.
Ta osoba ne postoji
Istraživači, dr. Sophie Nightingale sa Univerziteta Lancaster i profesor Hany Farid sa Univerziteta u Kaliforniji, Berkeley, izveli su eksperimente nakon što su priznali da su prijetnje dubokim lažnjacima koje su se dobro objavljivale, u rasponu od svih vrsta internetskih prijevara do okrepljujućih dezinformacione kampanje.
"Možda je najpogubnija posljedica da, u digitalnom svijetu u kojem se bilo koja slika ili video može lažirati, autentičnost bilo kojeg nezgodnog ili nepoželjnog snimka može biti dovedena u pitanje," tvrdili su istraživači.
Tvrdili su da, iako je bilo napretka u razvoju automatskih tehnika za otkrivanje duboko lažnog sadržaja, trenutne tehnike nisu dovoljno efikasne i precizne da drže korak sa stalnim protokom novog sadržaja koji se postavlja na internet. To znači da je na potrošačima internetskog sadržaja da razdvoje pravi od lažnog, predlaže dvojac.
Jelle Wieringa, zagovornica svijesti o sigurnosti u KnowBe4, složila se. On je za Lifewire preko e-pošte rekao da je borba protiv samih dubokih lažiranja izuzetno teška bez specijalizirane tehnologije. "[Tehnologije za ublažavanje] mogu biti skupe i teške za implementaciju u procese u stvarnom vremenu, često otkrivajući duboku lažnu stvar tek nakon činjenice."
S ovom pretpostavkom, istraživači su izveli niz eksperimenata kako bi utvrdili mogu li ljudski učesnici razlikovati najmodernija sintetizirana lica od stvarnih lica. U svojim testovima otkrili su da je uprkos obuci koja pomaže u prepoznavanju lažnjaka, stopa preciznosti poboljšana samo na 59%, u odnosu na 48% bez obuke.
Ovo je navelo istraživače da testiraju da li percepcija verodostojnosti može pomoći ljudima da identifikuju veštačke slike. U trećoj studiji, tražili su od učesnika da ocijene pouzdanost lica, samo da bi otkrili da je prosječna ocjena za sintetička lica 7.7% vjerodostojniji od prosječne ocjene za prava lica. Broj možda ne zvuči mnogo, ali istraživači tvrde da je statistički značajan.
Deeper Fakes
Duboki lažnjaci su već bili velika briga, a sada je voda dodatno zamućena ovom studijom, koja sugerira da bi takve visokokvalitetne lažne slike mogle dodati potpuno novu dimenziju online prevarama, na primjer, pomažući u stvaranju više uvjerljivi lažni profili na mreži.
"Jedina stvar koja pokreće sajber sigurnost je povjerenje koje ljudi imaju u tehnologije, procese i ljude koji ih pokušavaju zaštititi", podijelio je Wieringa. "Duboki lažnjaci, posebno kada postanu fotorealistični, potkopavaju ovo povjerenje, a samim tim i usvajanje i prihvatanje kibernetičke sigurnosti. To može dovesti do toga da ljudi postanu nepovjerljivi prema svemu što percipiraju."
Chris Hauk, šampion privatnosti potrošača u Pixel Privacy, složio se. U kratkoj razmjeni e-pošte, rekao je za Lifewire da bi fotorealističan duboki lažnjak mogao uzrokovati "pustoš" na mreži, posebno ovih dana kada se svim vrstama naloga može pristupiti korištenjem tehnologije za identifikaciju fotografija.
Korektivna radnja
Srećom, Greg Kuhn, direktor IoT-a, Prosegur Security, kaže da postoje procesi koji mogu izbjeći takvu lažnu autentifikaciju. On je za Lifewire putem e-pošte rekao da sistemi akreditacije zasnovani na umjetnoj inteligenciji odgovaraju provjerenoj osobi na listi, ali mnogi imaju ugrađene zaštitne mjere za provjeru "živosti".
"Ovi tipovi sistema mogu zahtijevati i voditi korisnika da izvrši određene zadatke kao što je osmijeh ili okretanje glave lijevo, a zatim desno. To su stvari koje statički generirana lica ne mogu izvesti", podijelio je Kuhn.
Istraživači su predložili smjernice za reguliranje njihovog stvaranja i distribucije kako bi se javnost zaštitila od sintetičkih slika. Za početak, oni predlažu ugrađivanje duboko ukorijenjenih vodenih žigova u same mreže za sintezu slika i videa kako bi se osiguralo da se svi sintetički mediji mogu pouzdano identificirati.
Do tada, Paul Bischoff, zagovornik privatnosti i urednik infosec istraživanja u Comparitech-u, kaže da su ljudi sami."Ljudi će morati naučiti da ne vjeruju licima na mreži, baš kao što smo svi (nadajmo se) naučili da ne vjerujemo prikazanim imenima u našim e-mailovima", rekao je Bischoff za Lifewire putem e-pošte.
