Key Takeaways
- Čini se da je AI sistem nazvan DALL-E2 stvorio vlastiti sistem pismene komunikacije.
- Neki stručnjaci kažu da je očigledan jezik možda samo brbljanje.
- To je primjer koliko je teško protumačiti rezultate naprednih AI sistema.
Izgleda da je umjetna inteligencija (AI) razvila vlastiti jezik, ali neki stručnjaci su skeptični prema toj tvrdnji.
OpenAI-jev AI sistem za pretvaranje teksta u sliku pod nazivom DALL-E2 čini se da je stvorio vlastiti sistem pisane komunikacije. To je primjer koliko je teško protumačiti rezultate naprednih AI sistema.
"Zbog veličine i dubine velikih modela, vrlo je teško objasniti ponašanje modela", rekla je za Lifewire Teresa O'Neill, direktorica arhitekture rješenja za razumijevanje prirodnog jezika u iMeritu. "Ovo je jedan od ključnih izazova, au nekim slučajevima i etička pitanja sa sve snažnijim modelima. Ako ne možemo objasniti zašto se ponašaju tako kako se ponašaju, možemo li predvidjeti njihovo ponašanje ili ga održati u skladu s našim normama i očekivanjima?""
AI Chats
Student informatike Giannis Daras nedavno je primijetio da će sistem DALLE-2, koji kreira slike na osnovu unosa teksta, vratiti besmislice kao tekst pod određenim okolnostima.
"Poznato ograničenje DALLE-2 je to što se bori s tekstom", napisao je on u radu objavljenom na serveru za preprint Arxiv. "Na primjer, tekstualni upiti kao što su: 'Slika riječi avion' često dovode do generiranih slika koje prikazuju besmislice."
Ali, napisao je Daras, možda postoji metod iza očiglednog brbljanja. „Otkrivamo da ovaj proizvedeni tekst nije nasumičan, već otkriva skriveni vokabular za koji se čini da je model interno razvio,“nastavio je. "Na primjer, kada se nahrani ovim glupim tekstom, model često proizvodi avione."
U svom tvitu, Daras je istakao da kada je DALLE-2 zamoljen da titluje razgovor između dva farmera, to je pokazalo da razgovaraju, ali oblačići su bili ispunjeni nečim što je izgledalo kao besmislene reči. Ali Daras je otkrio da se čini da riječi imaju svoje značenje za AI: farmeri su govorili o povrću i pticama.
Nicola Davolio, izvršni direktor tehnološke kompanije Hupry, koja radi sa AI, objasnio je za Lifewire u intervjuu e-poštom da je jezik zasnovan na simbolima koje je DALL-E2 sistem naučio da povezuje sa određenim konceptima. Na primjer, simbol za "pas" može biti povezan sa slikom psa, dok simbol za "mačka" može biti povezan sa slikom mačke. DALL-E2 je kreirao svoj jezik jer mu omogućava efikasniju komunikaciju sa drugim AI sistemima.
Zagonetke kao što je očigledno skriveni vokabular DALL-E2 je zabavno boriti se sa, ali takođe naglašavaju teža pitanja…
"Jezik se sastoji od simbola koji izgledaju kao egipatski hijeroglifi i ne izgledaju kao da imaju neko specifično značenje", dodao je. "Simboli su vjerovatno besmisleni za ljude, ali imaju savršen smisao za AI sistem budući da je obučen na milionima slika."
Istraživači vjeruju da je AI sistem stvorio jezik kako bi mu pomogao da bolje razumije odnose između slika i riječi, rekao je Davolio.
"Nisu sigurni zašto je AI sistem razvio svoj jezik, ali sumnjaju da bi to moglo imati neke veze sa načinom na koji je učio da stvara slike", dodao je Davolio. „Moguće je da je sistem veštačke inteligencije razvio svoj jezik kako bi komunikacija između različitih delova mreže bila efikasnija."
AI Mysteries
DALL-E2 nije jedini AI sistem koji je razvio svoj interni jezik, istakao je Davolio. U 2017. godini, Googleov AutoML sistem kreirao je novi oblik neuronske arhitekture nazvan 'dječija mreža' nakon što je ostavljen da odluči kako najbolje završiti dati zadatak. Ovu dječju mrežu njeni ljudski kreatori nisu mogli protumačiti.
"Ovi primjeri su samo nekoliko primjera u kojima su AI sistemi razvili načine da rade stvari koje ne možemo objasniti", rekao je Davolio. "To je fenomen u nastajanju koji je fascinantan i alarmantan u jednakoj mjeri. Kako AI sistemi postaju složeniji i autonomniji, možemo se sve više naći u poziciji da ne razumijemo kako funkcionišu."
O'Neill je rekla da ne misli da DALL-E2 stvara svoj vlastiti jezik. Umjesto toga, rekla je da je razlog očiglednog jezičkog izuma vjerovatno malo prozaičniji.
"Jedno uvjerljivo objašnjenje je slučajna šansa - u modelu koji je tako velik mogao bi se primijeniti malo Marfijevog zakona: ako se može dogoditi čudna stvar, vjerovatno će se dogoditi," dodao je O'Neill. Druga mogućnost koju je predložio istraživački analitičar Benjamin Hilton na Twitteru u kojem se raspravlja o Darasovim nalazima je da oblik izraza "apoploe vesrreaitais" oponaša oblik latinskog imena za životinju. Dakle, sistem je stvorio novi poredak Avesa, dodao je O'Neill.
"Zagonetke kao što je očigledno skriveni vokabular DALL-E2 su zabavne za borbu, ali takođe ističu teža pitanja o riziku, pristrasnosti i etičnosti u često nedokučivom ponašanju velikih modela", rekao je O'Neill.
