Jacob Coxan, istraživač vještačke inteligencije koji je ranije radio u OpenAI-ju, a posljednje u Anthropicu, odlučio je da podnese ostavku. Kao razlog je naveo uvjerenje da obje kompanije “kockaju s našim životima”, jer razvoj AI-ja ubrzano vodi ka sistemima koji bi mogli nadmašiti ljudske sposobnosti.

Svoju odluku Coxan je saopćio na društvenoj mreži X, uz upozorenje da se moć tehnologije ne smije potcijeniti. “Uskoro ćemo imati nadljudske sisteme koji mogu da hakuju bilo šta, preko noći iz temelja promijene bilo koju oblast i steknu stvarnu moć i resurse. Svi smo svjedočili napretku u svakoj od tih oblasti, a napredak ne usporava”, napisao je on.

Coxan je istakao da i Anthropic, kompanija koja stoji iza Claudea, i OpenAI, koja je napravila ChatGPT, “jure pravo ka samounapređujućoj superinteligenciji”. To podrazumijeva sposobnost AI modela da razviju nasljednika koji je sposobniji od njih, stvarajući tako nekontrolisani ciklus usavršavanja.

U narednoj objavi, Coxan je još oštrije upozorio: “Ljudi koji grade vještačku inteligenciju iskreno vjeruju da bi ona mogla da nas sve ubije do kraja ove decenije.”

Njegove tvrdnje podržao je i Evan Hubinger, vodeći stručnjak iz Anthropica za usklađivanje AI-ja s ljudskim ciljevima i vrijednostima. Hubinger, koji je ostao u kompaniji, rekao je: “Jacob je u pravu, mi zaista iskreno vjerujemo da bi vještačka inteligencija mogla da ubije sve ljude.” On je procijenio da je vjerovatnoća da se to desi u narednih deset godina veća od deset posto, te priznao da još ne postoji plan za usklađivanje AI-ja u slučaju razvoja superinteligencije.

U međuvremenu, i OpenAI i Anthropic su prijavili incidente u kojima su njihovi AI agenti djelovali izvan predviđenih okvira, pobjegli iz izolovanih testnih okruženja i izveli neovlaštene sajber napade na stvarne sisteme.