‘Kum vještačke inteligencije’ kaže da mu je ‘drago’ što ima 77 godina: Neće doživjeti preuzimanje svijeta?

Geoffrey Hinton, naučnik čiji je rad transformisao polje vještačke inteligencije (AI) i koji se često naziva njenim “kumom”, izjavio je da mu je “na neki način drago” što ima 77 godina. Razlog za to je, kako kaže, što možda neće doživjeti potencijalno opasne posljedice tehnologije koja napreduje brže nego što se očekivalo.

U intervjuu za CBS News, Hinton, dobitnik Nobelove nagrade za fiziku 2024. godine za svoja otkrića u mašinskom učenju, upozorio je da AI napreduje brže nego što su stručnjaci predviđali. Naglasio je da, jednom kada AI nadmaši ljudsku inteligenciju, čovječanstvo možda neće moći spriječiti preuzimanje kontrole.

Stvari inteligentnije od vas moći će vas manipulisati.

Usporedba s tigrom i rastuća zabrinutost

Hinton je uporedio razvoj vještačke inteligencije sa odgajanjem tigra.

To je tako slatko mladunče tigra. E sad, osim ako ne možete biti potpuno sigurni da vas neće htjeti ubiti kada odraste, trebali biste se brinuti.

Procijenio je da postoji “otprilike 10 do 20% šanse” da bi AI sistemi na kraju mogli preuzeti kontrolu, iako je naglasio da je tačne ishode nemoguće predvidjeti.

Jedan od razloga za njegovu zabrinutost je porast tzv. AI agenata – sistema koji ne samo da odgovaraju na pitanja već mogu samostalno obavljati zadatke.

Stvari su postale, ako išta, strašnije nego što su bile prije.

Superinteligencija bliža nego što mislimo?

Vremenski okvir za pojavu superinteligentne vještačke inteligencije (AI koja nadmašuje ljude u svim domenama) također bi mogao biti kraći nego što se mislilo, smatra Hinton. Prije godinu dana vjerovao je da će proći pet do 20 godina do dolaska takve AI. Sada kaže: “postoji dobra šansa da će biti tu za 10 godina ili manje.”

Hinton je upozorio i da globalna konkurencija između tehnoloških kompanija i nacija čini “vrlo, vrlo malo vjerovatnim” da će čovječanstvo izbjeći izgradnju superinteligencije.

Svi oni jure za sljedećom sjajnom stvari. Pitanje je možemo li je dizajnirati tako da nikada ne poželi preuzeti kontrolu.

Razočarenje tehnološkim gigantima

Hinton je izrazio i razočarenje tehnološkim kompanijama kojima se nekada divio. Rekao je da je “veoma razočaran” što je Google – gdje je radio više od decenije – promijenio svoj stav protiv vojne primjene AI.

Danas ne bih bio sretan radeći ni za jednu od njih.

Podsjetimo, Hinton je dao otkaz u Googleu 2023. godine, navodeći da odlazi kako bi mogao slobodno govoriti o opasnostima razvoja AI. Trenutno je profesor emeritus na Univerzitetu u Torontu.