Key Takeaways
- Novo istraživanje sugerira da možda ne postoji način da se kontrolira super-pametna umjetna inteligencija.
- U časopisu se tvrdi da bi kontrola AI zahtijevala mnogo napredniju tehnologiju od one koju trenutno posjedujemo.
- Neki stručnjaci kažu da bi istinski inteligentna umjetna inteligencija mogla doći prije nego što mislimo.
Ako ljudi ikada razviju super-pametnu umjetnu inteligenciju, možda ne postoji način da se to kontrolira, kažu naučnici.
AI se dugo reklamirao ili kao lijek za sve probleme čovječanstva ili kao apokalipsa u stilu Terminatora. Do sada, međutim, AI se nije približio čak ni inteligenciji na ljudskom nivou. Ali držanje uzice na naprednoj AI bi moglo biti previše složen problem za ljude ako se ikada razvije, prema nedavnom radu objavljenom u Journal of Artificial Intelligence Research.
"Super-inteligentna mašina koja kontroliše svet zvuči kao naučna fantastika", rekao je Manuel Cebrian, jedan od koautora lista, u saopštenju za javnost.
"Ali već postoje mašine koje obavljaju određene važne zadatke samostalno, a da programeri u potpunosti ne razumiju kako su to naučili. Stoga se postavlja pitanje da li bi to u jednom trenutku moglo postati nekontrolirano i opasno za čovječanstvo."
Uskoro na super kompjuteru u vašoj blizini
U časopisu se tvrdi da bi kontrola AI zahtijevala mnogo napredniju tehnologiju od one koju trenutno posjedujemo.
U svojoj studiji, tim je osmislio teoretski algoritam zadržavanja koji osigurava da superinteligentna AI ne može naštetiti ljudima ni pod kojim okolnostima, tako što prvo simulira ponašanje AI i zaustavlja ga ako se smatra štetnim. Ali autori su otkrili da se takav algoritam ne može izgraditi.
"Ako problem razbijete na osnovna pravila iz teorijske kompjuterske nauke, ispostavilo se da bi algoritam koji bi naredio AI da ne uništi svijet mogao nehotice zaustaviti vlastite operacije." Iyad Rahwan, direktor Centra za ljude i mašine na Institutu Max Planck za ljudski razvoj u Njemačkoj, rekao je u saopštenju za javnost.
"Ako bi se ovo dogodilo, ne biste znali da li algoritam zadržavanja još uvijek analizira prijetnju ili je prestao da sadrži štetnu AI. U stvari, ovo čini algoritam za zadržavanje neupotrebljivim."
Zaista inteligentna veštačka inteligencija može doći ranije nego što mislimo, tvrdi Michalis Vazirgiannis, profesor računarstva na École Polytechnique u Francuskoj. "AI je ljudski artefakt, ali brzo postaje autonomni entitet", rekao je u e-poruci za Lifewire.
"Kritična tačka će biti ako/kada dođe do singularnosti (tj. kada će AI agenti imati svijest kao entitet) i stoga će tražiti nezavisnost, samokontrolu i eventualnu dominaciju."
Singularnost dolazi
Vazirgiannis nije sam u predviđanju skorog dolaska super AI. Istinski vjernici u prijetnju umjetnom inteligencijom vole govoriti o "singularnosti", za koju Vazirgiannis objašnjava da će AI zamijeniti ljudsku inteligenciju i "da će AI algoritmi potencijalno shvatiti svoje postojanje i početi da se ponašaju sebično i kooperativno."
Prema Reju Kurzvajlu, Google-ovom direktoru inženjeringa, singularnost će stići pre sredine 21. veka. "2029. je dosljedan datum za koji sam predvidio kada će AI proći važeći Turingov test i stoga postići ljudske nivoe inteligencije," rekao je Kurzweil za Futurism.
Ako ne možemo očistiti vlastitu kuću, koji kod bi trebali tražiti od AI da slijedi?
"Odredio sam datum 2045. za 'Singularitet', kada ćemo umnožiti našu efektivnu inteligenciju milijardu puta spajajući se sa inteligencijom koju smo stvorili."
Ali ne misle svi stručnjaci za AI da su inteligentne mašine prijetnja. AI koji je u razvoju vjerojatnije će biti koristan za razvoj lijekova i ne pokazuje nikakvu stvarnu inteligenciju, rekao je konsultant za umjetnu inteligenciju Emmanuel Maggiori u intervjuu e-poštom. "Postoji velika pompa oko AI, zbog čega zvuči kao da je zaista revolucionarno", dodao je. "Trenutni AI sistemi nisu tako precizni kao što je objavljeno i prave greške koje čovjek nikada ne bi napravio."
Preuzmi kontrolu nad AI, sada
Regulisanje AI tako da ne izmakne našoj kontroli može biti teško, kaže Vazirgiannis. Kompanije, a ne vlade, kontrolišu resurse koji pokreću AI. „Čak se i sami algoritmi obično proizvode i primenjuju u istraživačkim laboratorijama ovih velikih i moćnih, obično multinacionalnih, entiteta“, rekao je on.
"Očigledno je, dakle, da vlade država imaju sve manje kontrole nad resursima neophodnim za kontrolu AI."
Neki stručnjaci kažu da će ljudi za kontrolu superinteligentne umjetne inteligencije morati upravljati računarskim resursima i električnom energijom. "Filmovi naučne fantastike kao što je Matrix čine proročanstva o distopijskoj budućnosti u kojoj AI koristi ljude kao izvore bio-moći", rekao je Vazirgiannis.
"Iako su udaljene nemogućnosti, čovječanstvo treba osigurati dovoljnu kontrolu nad računskim resursima (tj., kompjuterskim klasterima, GPU-ovima, superkompjuterima, mrežama/komunikacijama), i naravno elektranama koje obezbjeđuju električnu energiju koja je apsolutno štetno za funkciju AI."
Problem s kontrolom AI je u tome što istraživači ne razumiju uvijek kako takvi sistemi donose svoje odluke, rekao je Michael Berthold, suosnivač i izvršni direktor softverske kompanije za nauku podataka KNIME, u intervjuu putem e-pošte. "Ako to ne učinimo, kako to možemo 'kontrolisati'?"
Dodao je: "Ne razumijemo kada se donese potpuno drugačija odluka na osnovu, za nas, nebitnih inputa."
Jedini način da se kontroliše rizik korišćenja veštačke inteligencije je da se osigura da se ona koristi samo kada se taj rizik može upravljati, rekao je Berthold. "Drugačije rečeno, dva ekstremna primjera: nemojte stavljati AI za kontrolu vaše nuklearne elektrane gdje mala greška može imati katastrofalne nuspojave", dodao je.
"S druge strane, AI predviđa da li se vaša sobna temperatura treba malo podesiti ili sniziti može biti vrijedna malog rizika za dobrobit životne udobnosti."
Ako ne možemo kontrolisati AI, bolje je da je naučimo ponašanju, rekao je bivši NASA-in kompjuterski inženjer Peter Scott u intervjuu e-poštom. "Ne možemo, u konačnici, osigurati upravljivost AI ništa više nego što možemo osigurati kontrolu naše djece," rekao je.
"Odgajamo ih ispravno i nadamo se najboljem; do sada nisu uništili svijet. Da bismo ih dobro odgojili, potrebno nam je bolje razumijevanje etike; ako ne možemo očistiti vlastitu kuću, šta kod trebamo li tražiti od AI da prati?"
Ali nije izgubljena svaka nada za ljudsku rasu, kaže istraživač AI Yonatan Wexler, izvršni potpredsjednik istraživanja i razvoja u OrCam-u. "Iako je napredak zaista impresivan, moje lično uvjerenje je da ljudsku inteligenciju ne treba potcijeniti", rekao je on u intervjuu putem e-pošte. "Mi kao vrsta smo stvorili prilično nevjerovatne stvari, uključujući samu AI."
Potraga za sve pametnijim AI se nastavlja. Ali možda bi bilo bolje razmisliti o tome kako kontroliramo svoje kreacije prije nego što bude prekasno.
