Hakeri su pakleno skloni poboljšanju AI

Sadržaj:

Hakeri su pakleno skloni poboljšanju AI
Hakeri su pakleno skloni poboljšanju AI
Anonim

Key Takeaways

  • Novi kolektiv programera gradi AI modele otvorenog koda.
  • Grupa koristi ogromne modele jezičke obuke koje će objaviti pod otvorenim licencama.
  • Otvorena AI bi mogla pomoći da moć nove tehnologije koja potencijalno mijenja igru bude manje sklona predrasudama i greškama.
Image
Image

Velike kompanije (AI) provode mnogo istraživanja o umjetnoj inteligenciji, ali jedna online grupa želi demokratizirati proces.

EleutherAI je nedavno formiran kolektiv dobrovoljnih istraživača, inženjera i programera fokusiran na istraživanje AI otvorenog koda. Organizacija koristi baze kodova GPT-Neo i GPT-NeoX za obuku masovnih jezičkih modela koje planira izdati pod otvorenim licencama.

"Podaci otvorenog koda koriste istraživačima jer naučnici imaju više besplatnih resursa koje mogu koristiti za obuku modela i kompletiranje istraživanja", rekao je Edward Cui, izvršni direktor kompanije AI Graviti, u intervjuu za Lifewire. Njegova kompanija nije uključena u EueutherAI. „Znamo da je veliki broj projekata veštačke inteligencije zadržan zbog opšteg nedostatka visokokvalitetnih podataka iz stvarnih slučajeva upotrebe, tako da je od vitalnog značaja uspostaviti smernice koje osiguravaju kvalitet podataka, uz pomoć zajednice koja učestvuje.“

Ovo je način

Počeci EleutherAI bili su skromni. Prošle godine, nezavisni istraživač umjetne inteligencije po imenu Connor Leahy objavio je sljedeću poruku na Discord serveru: "Hej ljudi, dozvolite [SIC] da daju OpenAI-u na trku za svoj novac kao u dobra stara vremena."

I tako je grupa formirana. Sada ima stotine saradnika koji objavljuju svoj kod na online softverskom spremištu GitHub.

Open-sourcing AI napori nisu novi. Zapravo, Airbnb-ova platforma za upravljanje protokom posla Airflow i Lyftov mehanizam za otkrivanje podataka su rezultati korištenja alata otvorenog koda kako bi se timovi podataka omogućili da bolje rade s podacima, istakao je Ali Rehman, menadžer projekta softverske kompanije CloudiTwins u intervjuu e-poštom za Lifewire..

"Kao što je revolucija otvorenog koda dovela do transformacije razvoja softvera, tako je pokrenula razvoj i demokratizaciju nauke o podacima i umjetne inteligencije", rekao je Rehman. "Otvoreni izvor je postao kritičan pokretač rješenja za nauku o podacima u preduzeću, a većina naučnika podataka koristi alate otvorenog koda."

Otvaranje vrata

Razvoj AI otvorenog koda mogao bi pomoći da moć nove tehnologije koja potencijalno mijenja igru bude manje sklona pristrasnostima i greškama, tvrde neki posmatrači.

Istraživanja AI se sada prvenstveno dešavaju na otvorenom, pri čemu skoro sve kompanije, istraživačke laboratorije i univerziteti svoje rezultate odmah predstavljaju u naučnim publikacijama, rekao je Kush Varshney, istraživač AI u IBM-u, za Lifewire u intervjuu e-poštom.

"Ova otvorena zajednica je od suštinskog značaja, jer pruža poboljšane nivoe provjere i ravnoteže kako bi se osiguralo da se AI istražuje, kreira, primjenjuje i odgovorno primjenjuje," dodao je Varshney. "Ovo je posebno kritično u situacijama u kojima ovi sistemi mogu uticati na živote naših najranjivijih članova društva. Ova otvorenost se odnosi ne samo na opće mašinsko učenje i algoritme dubokog učenja, već i na elemente pouzdane AI."

Rehman je rekao da je jedna od kritičnih razlika između vlasničkog softvera i softvera otvorenog koda fleksibilnost i prilagođavanje. Vlasnička AI istraživanja će imati problema sa sigurnošću, ažuriranjima i optimizacijama.

Image
Image

"To je zato što pristup zasnovan na zajednici otvorenog koda dobija vrijedan doprinos hiljada stručnjaka iz industrije koji identificiraju potencijalne sigurnosne propuste koje se zatim brže otklanjaju", dodao je Rehman."Konsenzus zajednice znači da je kvalitet zagarantovan i da se nove prilike lakše identifikuju."

Još jedan problem je da istraživanje AI neće biti interoperabilno, što znači da ne može raditi s različitim formatima podataka i vjerovatno će imati zaključavanje dobavljača, što sprječava kompanije da testiraju i isprobaju softver prije nego što se obavežu na rješenje, Rehman je rekao.

Ali ne mora svaki aspekt AI istraživanja biti otvorenog koda, rekao je Chris Kent, izvršni direktor medicinske AI kompanije Reveal Surgical, za Lifewire u intervjuu e-poštom. "Važno je zaštititi ekonomske poticaje koji pokreću komercijalni razvoj ključnih aplikacija AI", rekao je.

Međutim, istraživanje AI treba robusnu komponentu otvorenog koda, rekao je Kent. Dodao je da otvoreni kod radi na izgradnji povjerenja i korištenju skupova podataka koji nisu ili ne bi trebali biti pod kontrolom pojedinačnih institucija ili kompanija.

"Pristup otvorenog koda je najbolji način za identifikaciju i kompenzaciju osnovne pristranosti koja može postojati u setovima za obuku i koja će dovesti do holističkijih, kreativnijih i pouzdanijih primjena AI", rekao je Kent.

Preporučuje se: