Key Takeaways
- Algoritmi AI i mašinskog učenja prate ljudsko ponašanje i mogu naučiti da manipulišu njime, kažu stručnjaci.
- Istraživači su nedavno kreirali način da pronađu i iskoriste ranjivosti na načine na koje ljudi donose odluke koristeći AI.
- Najsofisticiraniji algoritam društvenih medija trenutno je TikTok, kaže jedan posmatrač.
Umjetna inteligencija (AI) i algoritmi mašinskog učenja sve više uče kako utjecati na ponašanje korisnika, kažu stručnjaci.
Istraživači australske nacionalne agencije za nauku nedavno su kreirali način da pronađu i iskoriste ranjivosti u načinima na koje ljudi donose odluke koristeći AI. Najnovije istraživanje je samo jedno od talasa sistema vođenih veštačkom inteligencijom dizajniranih da manipulišu ljudskim odlukama.
"Nema kraja mnogim načinima na koje AI već utiče na ponašanje", Kentaro Toyama, profesor na Informacionoj školi Univerziteta u Mičigenu i autor knjige Geek Heresy: Spašavanje društvenih promena od kulta tehnologije, rekao je u intervjuu e-poštom.
"U stvari, ako ste ikada pretraživali Google i pratili link, na vas je uticao AI sistem koji je pogodio vaša interesovanja i vratio rezultate za koje je mislio da su vam najrelevantniji."
AI vs. Ljudi
U australskom istraživanju objavljenom u nedavnom radu, ljudski učesnici su igrali igrice protiv kompjutera u raznim eksperimentima. U prvom eksperimentu učesnici su kliknuli na kutije crvene ili plave boje kako bi osvojili novac.
AI je bio uspješan u oko 70% vremena, učeći uzorke izbora učesnika i usmjeravajući ih prema određenom izboru.
U drugom eksperimentu, učesnici su gledali ekran i pritiskali dugme kada im je prikazan određeni simbol, ili ga nisu pritiskali kada im je ponuđen drugi. AI je naučio da preuređuje simbole, tako da su učesnici pravili više grešaka.
Rezultat eksperimenata, zaključili su istraživači, bio je da je AI naučio iz odgovora učesnika. Mašina je zatim identifikovala i ciljala ranjivosti u donošenju odluka ljudi. U stvari, AI bi mogla izmanipulirati učesnike da izvrše određene radnje.
Činjenica da AI ili mašinsko učenje mogu manipulisati ljudima ne bi trebalo da bude iznenađenje, kažu posmatrači.
"AI svakodnevno utiče na naše ponašanje, " rekla je Tamara Schwartz, docentica za sajber sigurnost i poslovnu administraciju na York College of Pennsylvania, u intervjuu putem e-pošte..
"Stalno slušamo o algoritmima u aplikacijama društvenih medija kao što su Facebook ili Twitter. Ovi algoritmi usmjeravaju našu pažnju na povezani sadržaj i stvaraju efekat 'eho komore', što zauzvrat utiče na naše ponašanje."
TikTok gleda
Najsofisticiraniji algoritam društvenih medija trenutno je TikTok, rekao je Schwartz. Aplikacija analizira šta vas zanima, koliko dugo nešto gledate i koliko brzo nešto preskačete, a zatim usavršava svoju ponudu kako biste nastavili gledati.
"TikTok stvara mnogo veću ovisnost od drugih platformi zbog ovog AI algoritma, koji razumije šta volite, kako učite i kako birate informacije", dodala je ona. "Znamo to jer je prosječno vrijeme koje korisnici provedu na TikTok-u 52 minute."
Manipulacija ljudskim ponašanjem pomoću vještačke inteligencije mogla bi imati pozitivne koristi, tvrdi Chris Nicholson, izvršni direktor AI kompanije Pathmind, u intervjuu e-poštom. Agencije za javno zdravstvo, na primjer, mogle bi koristiti umjetnu inteligenciju da ohrabre ljude da donose bolje odluke.
"Međutim, društveni mediji, proizvođači video igrica, oglašivači i autoritarni režimi traže načine da potaknu ljude da donose odluke koje nisu u njihovom najboljem interesu, a to će im dati nove alate za to, " dodao je.
Etička pitanja vezana za ponašanje koje utječe na AI često su diplomirana, rekao je Toyama. AI omogućava fokusirano oglašavanje u kojem se mogu iskoristiti individualne preferencije i slabosti.
"Moguće je, na primjer, AI sistem identificirati ljude koji pokušavaju prestati pušiti i začiniti ih primamljivim reklamama za cigarete", dodao je.
Ne slažu se svi da je AI manipulacija ljudskim ponašanjem problematična. Klasična psihologija i AI promatraju podatke, istakao je Jason J. Corso, direktor Stevensovog instituta za umjetnu inteligenciju, u intervjuu putem e-pošte.
"Ljudski naučnici su vjerovatno bolji u generaliziranju zapažanja i destiliranju teorija ljudskog ponašanja koje bi mogle biti šire primjenjive, dok bi AI modeli bili podložniji identifikaciji nijansi specifičnih za problem", rekao je Corso..
"Sa etičke tačke gledišta, ne vidim razliku između ovih."
