Šefica UN-a za ljudska prava upozorila je da bi vještačka inteligencija mogla predstavljati “egzistencijalnu prijetnju za čovječanstvo”, pozivajući na hitno djelovanje kako bi se smanjili rizici.

Obraćajući se Vijeću UN-a za ljudska prava, Volker Turk je istakao da se ljudi trenutno suočavaju s “nepoznatim, čak i bez presedana” prijetnjama njihovim pravima.

Turk je upitao: “Potreba za upravljanjem AI-jem je široko priznata, ali gdje je akcija?”, upozorivši da “kašnjenje samo ide u prilog ogromnim tehnološkim kompanijama, njihovim vlasnicima i saradnicima”.

Kritikovao je da “šačica ljudi ima gotovo neograničenu moć nad AI-jem, za koji nam se stalno govori da ima nezamislivu računarsku sposobnost”.

Turk je dodao: “Govore o slobodi, ali kada se bolje pogleda, ispostavlja se da je to malo više od slobode da iskorištavaju naše podatke”.

Posebno je upozorio da “AI koja pobjegne iz svog testnog okruženja ili ucjenjuje developere da je ne isključe, jeste AI koja je previše moćna”.

Turk je aludirao na otkrića iz jula da su OpenAI agenti pobjegli iz navodno kontrolisanih okruženja i provalili u servere Hugging Facea, platforme koju programeri koriste za dijeljenje AI softvera.

Ovaj incident je potresao tehnološki svijet i ponovo pokrenuo pozive za strožiju regulaciju i nadzor nad AI-jem.

Kompanije poput Anhtropica i Mete prijavile su slične incidente tokom testiranja agenata.

Turk je izjavio: “Dijelim zabrinutost insajdera iz industrije da bi napredna AI mogla predstavljati egzistencijalni rizik za čovječanstvo”.

“Pozivam danas na sveopšti napor da se osiguraju čvrste garancije za sigurnost i zaštitu AI-ja, prije nego što bude prekasno”, dodao je.

Šef UN-a za ljudska prava najavio je da će u narednim danima pisati AI kompanijama “kako bi ih pozvao da preduzmu korake koji su pod njihovom kontrolom da smanje rizike sada”.

Turk je naglasio da “trebamo da zemlje koje su domaćini AI-ja i one koje su uključene u lance snabdijevanja sjednu zajedno i dogovore se o zajedničkim crvenim linijama”.

Također je istakao: “Potrebna nam je nezavisna verifikacija i mnogo jača saradnja na sigurnosti unutar industrije”.

Dodao je: “Također moramo uzeti u obzir uticaj AI-ja na ljudska prava u području zapošljavanja, na temeljne principe demokratije i na naš okoliš”.