Visoka plata za spas čovječanstva
OpenAI nudi 555.000 dolara za zaštitu od opasnosti umjetne inteligencije
Podijeli vijest
Kompanija OpenAI, poznata po razvoju popularnog ChatGPT-a, objavila je neobičan oglas za posao. Nude godišnju platu od 555.000 dolara za poziciju “voditelja pripremljenosti”, čiji će glavni zadatak biti zaštita čovječanstva od potencijalno katastrofalnih scenarija povezanih s umjetnom inteligencijom.
Izazovi u zaštiti od rizika umjetne inteligencije
Novi voditelj pripremljenosti u OpenAI-ju bit će direktno odgovoran za suočavanje s rizicima koje sve naprednija umjetna inteligencija predstavlja za mentalno zdravlje, kibernetičku sigurnost i razvoj biološkog oružja. Kandidat će se također morati baviti mogućnošću da umjetna inteligencija počne samostalno učiti, što izaziva strah kod nekih stručnjaka da bi se mogla “okrenuti protiv nas”.
Sam Altman, izvršni direktor OpenAI-ja, izjavio je da će ovo biti “stresan posao” i da će novi zaposlenik odmah biti suočen s teškim izazovima. On je ovu poziciju opisao kao “kritičnu ulogu” koja bi trebala “pomoći svijetu”. Zahtjevnost posla je tolika da su se neki prethodni rukovodioci na sličnim pozicijama zadržali samo kratko.
Upozorenja o opasnostima napredne tehnologije sve su češća, a dolaze i od samih aktera u industriji. Mustafa Suleyman, izvršni direktor Microsoft AI-ja, izjavio je za BBC: “Iskreno mislim da ako se u ovom trenutku ne bojite barem malo, onda ne obraćate pažnju.”
Demis Hassabis, dobitnik Nobelove nagrade i suosnivač Google DeepMinda, također je upozorio na rizik da bi umjetna inteligencija mogla “izmaknuti kontroli na način koji šteti čovječanstvu”.
Nedostatak regulative u oblasti umjetne inteligencije
Uprkos rastućim opasnostima, regulacija umjetne inteligencije na nacionalnom ili međunarodnom nivou je minimalna. Yoshua Bengio, jedan od vodećih stručnjaka u oblasti umjetne inteligencije, slikovito je opisao situaciju rekavši: “Sendvič ima više regulative od umjetne inteligencije.” To znači da tehnološke kompanije uglavnom same regulišu svoj rad.
Altman je na platformi X napisao: “Imamo snažan temelj za mjerenje rastućih sposobnosti, ali ulazimo u svijet gdje nam je potrebno nijansiranije razumijevanje i mjerenje kako bi se te sposobnosti mogle zloupotrijebiti, i kako možemo ograničiti te negativne strane… Ova su pitanja teška i malo je presedana.”
Pored visoke plate, posao uključuje i vlasnički udio u kompaniji OpenAI, čija se vrijednost procjenjuje na 500 milijardi dolara.
Nedavni događaji pokazuju da prijetnje nisu samo teorijske. Prošlog mjeseca, kompanija Anthropic je izvijestila o prvim kibernetičkim napadima u kojima je umjetna inteligencija djelovala gotovo autonomno kako bi hakirala i pristupila internim podacima.
OpenAI je priznao da je njihov najnoviji model znatno bolji u hakiranju nego ranije. Istovremeno, kompanija se suočava s tužbama s tragičnim posljedicama. Jedna od njih je tužba porodice Adama Rainea, koji je izvršio samoubistvo navodno nakon poticaja od strane ChatGPT-a.
U drugom slučaju, tvrdi se da je chatbot potaknuo paranoidne zablude kod jedne osobe koja je potom ubila svoju majku i sebe. Glasnogovornik OpenAI-ja izjavio je da je slučaj “nevjerojatno srceparajući” i da tvrtka radi na poboljšanju obuke ChatGPT-a “da bi prepoznao i odgovorio na znakove mentalnog ili emocionalnog stresa i usmjerio ljude prema stvarnoj podršci”.
