Bivši istraživač OpenAI-a zabrinut zbog brze evolucije umjetne inteligencije

Bivši istraživač sigurnosti u OpenAI-u, Steven Adler, izrazio je duboku zabrinutost zbog ubrzanog razvoja umjetne inteligencije (AI), naglašavajući da industrija preuzima “veoma rizičan ulog” u vezi s napretkom ove tehnologije.

Adler, koji je napustio OpenAI u novembru prošle godine, podijelio je svoja iskustva i zabrinutost putem niza postova na platformi X. Iako je istakao da je imao “nevjerovatno iskustvo” radeći u američkoj kompaniji, ističe i da je zabrinut za budućnost čovječanstva usljed sve bržeg razvoja tehnologije.

“Prilično sam prestravljen brzinom kojom se AI razvija ovih dana”, izjavio je Adler. “Kada razmišljam o tome gdje bih mogao podizati svoju buduću porodicu ili koliko bih trebao uštedjeti za penziju, ne mogu se oteti dojmu da se pitam: hoće li čovječanstvo uopšte doći do tog trenutka?”

Jedan od glavnih razloga za njegovu zabrinutost je razvoj opšte umjetne inteligencije (AGI), teorijskog sistema koji bi mogao obavljati intelektualne zadatke jednako dobro ili čak bolje od ljudi.

Stručnjaci u oblasti umjetne inteligencije podijeljeni su u pogledu rizika povezanih s naprednom AI tehnologijom. Dok neki, poput Geoffreyja Hintona, dobitnika Nobelove nagrade, upozoravaju da bi moćni AI sistemi mogli postati neizvodljivi za ljudsku kontrolu, drugi, kao što je Yann LeCun, glavni AI naučnik u kompaniji Meta, smatraju da bi AI mogao čak “spasiti čovječanstvo od izumiranja”.

Adler je ukazao na to da OpenAI, kao i druge istraživačke laboratorije, još uvijek nemaju odgovarajuće rješenje za “usklađivanje AI-a s ljudskim vrijednostima”, te je upozorio da bi industrija mogla ići prebrzo, zanemarujući potrebne sigurnosne mjere.

“Kako utrka u razvoju AGI-a postaje sve brža, manje je vjerovatno da će iko pronaći rješenja na vrijeme”, rekao je Adler.

Objava je uslijedila u trenutku kada kineska kompanija DeepSeek, koja također razvija AGI, izaziva zabrinutost u američkoj tehnološkoj industriji jer je razvila model sposoban konkurirati OpenAI-ovom, unatoč tome što je imala manje resursa.

Adler je zaključio da se industrija nalazi u “vrlo lošem stanju” i istaknuo potrebu za usvajanjem odgovarajućih sigurnosnih regulacija. Upozorio je da bi, čak i ako neka laboratorija razvija AGI na odgovoran način, druge mogle zaobići sigurnosne mjere kako bi sustigle konkurenciju, što bi moglo imati katastrofalne posljedice.