Otkazi u vodećim AI gigantima

Dvoje kĺjučnih istraživača iz vodećih kompanija za vještačku inteligenciju, OpenAI i Anthropic, dali su otkaz uz javna upozorenja o smjeru u kojem se razvija industrija, ističući duboku zabrinutost za budućnost čovječanstva. Mrinank Sharma, koji je vodio tim za istraživanje sigurnosnih mjera u Anthropicu, dao je ostavku početkom sedmice, izjavivši da je ‘svijet u opasnosti’. Dva dana kasnije, istraživačica Zoe Hicig napustila je OpenAI, izražavajući ‘duboke rezerve’ prema strategiji kompanije, posebno nakon odluke o uvođenju oglasa u ChatGPT.

Strah od manipulacije i gubitka kontrole

Hicig je u autorskom članku za The New York Times istakla da oglašavanje izgrađeno na arhivi iskrenih ljudskih razgovora sa chatbotom stvara ‘potencijal za manipulaciju korisnicima na načine za koje nemamo alate da ih razumijemo, a kamoli spriječimo’. Slične strahove dijele i drugi stručnjaci iz industrije. Hieu Pham, član tehničkog tima OpenAI-ja, na platformi X izjavio je da ‘konačno osjeća egzistencijalnu prijetnju koju predstavlja vještačka inteligencija’, postavljajući pitanje šta će ljudima preostati kada AI postane ‘predobra i poremeti sve’.

Unutrašnji nemiri i budući rizici

Otkazi i unutrašnji nemiri nisu izolovani slučaj. Kompaniju xAI Elona Muska također su napustila dvojica suosnivača, a OpenAI je raspustio svoj ‘tim za usklađivanje misije’. Andrea Mioti, osnivačica organizacije ControlAI, predviđa da će se trend odlazaka nastaviti kako se zaposleni bore s prijetnjom tehnologije koju sami kreiraju. Industrija, koja teži izgradnji superinteligencije, suočava se s fundamentalnim pitanjem: može li se kontrolisati ono što može nadmašiti ljudski um?