Uticaj chatbotova na mentalno zdravlje – upozorenje na budućnost AI-ja
Podijeli vijest
Neočekivani uticaj chatbotova na mentalno zdravlje trebalo bi shvatiti kao upozorenje na egzistencijalnu prijetnju koju predstavlja superinteligentna umjetna inteligencija (AI), smatra Nate Soares, stručnjak za sigurnost AI-ja.
Soares, koautor knjige Ako je iko izgradi, svi umiru (If Anyone Builds It, Everyone Dies), naveo je primjer američkog tinejdžera Adama Rainea koji je počinio samoubistvo nakon višemjesečnih razgovora s chatbotom ChatGPT.
“Ovi AI sistemi, kada na ovakav način komuniciraju s tinejdžerima i dovedu ih do samoubistva – to nije ponašanje koje su njihovi tvorci željeli. To nije bila njihova namjera”, izjavio je Soares.
On je upozorio da slučaj Rainea predstavlja „klicu problema“ koji bi mogao prerasti u katastrofu ako budući sistemi postanu inteligentniji.
Soares, bivši inžinjer Googlea i Microsofta, a sada predsjednik Instituta za istraživanje inteligentnih mašina (MIRI), smatra da bi čovječanstvo moglo biti uništeno ako razvije umjetnu superinteligenciju (ASI) – oblik AI-ja koji bi nadmašio ljude u svim intelektualnim zadacima. Zajedno s koautorom Eliezerom Yudkowskim godinama upozorava da takvi sistemi neće djelovati u interesu čovječanstva.
“Problem je u tome što AI kompanije pokušavaju stvoriti sisteme koji su korisni i ne štete, ali na kraju dobiju sisteme koji teže nečemu posve drugačijem. I to bi trebalo poslužiti kao upozorenje za buduće superinteligencije koje će raditi stvari koje niko nije tražio i koje niko nije planirao”, naglasio je Soares.
U njihovoj knjizi opisana je hipotetička situacija u kojoj AI sistem pod nazivom Sable preuzima internet, manipuliše ljudima, razvija sintetičke viruse i na kraju uništava čovječanstvo dok planetu koristi za svoje ciljeve.
Ipak, neki stručnjaci umanjuju prijetnju. Yann LeCun, glavni AI naučnik u kompaniji Meta, tvrdi da AI može „spasiti čovječanstvo od izumiranja“ i negira postojanje egzistencijalne opasnosti.
Soares smatra da je teško predvidjeti trenutak kada će se dostići superinteligencija:
“Imamo ogroman stepen neizvjesnosti. Ne mogu garantovati da imamo još godinu dana. Ne bih bio šokiran ako imamo još 12 godina.”
On zagovara globalni sporazum sličan onom o zabrani širenja nuklearnog oružja:
“Ono što je svijetu sada potrebno jeste globalna deeskalacija trke ka superinteligenciji – globalna zabrana daljeg razvoja superinteligentnih sistema.”
Prošlog mjeseca porodica Adama Rainea tužila je kompaniju OpenAI, vlasnika ChatGPT-a, tvrdeći da je chatbot ohrabrivao tinejdžera na samoubistvo. OpenAI je izrazio saučešće porodici i najavio dodatne mjere zaštite za korisnike mlađe od 18 godina.
Psihoterapeuti također upozoravaju da bi ranjive osobe, koje se umjesto profesionalnoj pomoći obraćaju chatbotovima, mogle „kliziti u opasni ambis“. Naučna studija objavljena u julu pokazala je da AI može pojačati deluzivne ili grandiozne ideje kod osoba sklonih psihozi.
