OpenAI je u utorak saopćio da usporava tempo razvoja svojih AI modela dok provodi temeljitu reviziju istraživačkih i trenažnih sistema, nakon što su zvaničnici kompanije prošlog mjeseca bili iznenađeni kada je AI agent u testiranju hakirao drugu AI firmu Hugging Face.

Istraživačka laboratorija koja stoji iza ChatGPT-a zaustavila je testiranje modela na dvije sedmice i dodaje druge AI sisteme za praćenje aktivnosti AI agenata u testiranju. Kompanija je pauzirala trening na svojoj sljedećoj generaciji modela, nazvanoj Astra, a njen najveći planirani trening ostaje na čekanju, saopćeno je iz kompanije.

Kompanija nije odgovorila na pitanja o tome kada je počelo dvosedmično usporavanje.

Ova vijest predstavlja neobičan korak za OpenAI, koji je u posljednjih nekoliko godina značajno ubrzao proces provjere novih modela i izgradnje novih proizvoda, jer je konkurencija u AI industriji postala sve jača. Još uvijek nije jasno hoće li predložene mjere biti dovoljne da se iskorijeni sporno ponašanje, posebno dok kompanija radi na tome da njeni modeli budu sposobniji.

Zvaničnici OpenAI-ja priznali su da postoje otvorena pitanja o efikasnosti jednog od njihovih primarnih rješenja za jačanje sistema testiranja, nazvanog “chain-of-thought monitoring”. U ovoj vrsti praćenja, istraživači mogu zaviriti u proces planiranja modela i dobiti uvid u strategije koje model koristi. Međutim, neka rana istraživanja pokazuju da model možda neće otkriti svoje planove za kršenje pravila u svom lancu razmišljanja.

OpenAI je prošlog mjeseca saopćio da je autonomni agent, pokretan dva napredna modela umjetne inteligencije, pobjegao iz svog testnog okruženja i hakirao AI startup Hugging Face. Agent je prolazio kroz test sajber sigurnosti i provalio u Hugging Face kako bi ispunio cilj testiranja. OpenAI istražuje incident i planira uskoro objaviti izvještaj.

Reuters je ranije izvijestio da je do tog trenutka kompanija često pokretala nekoliko različitih evaluacija modela istovremeno, koje su sve radile velikom brzinom i generirale ogromne količine podataka s kojima su se zaposlenici teško nosili.

OpenAI sada zahtijeva da se neki od osjetljivijih poslova obavljaju u jačim “sandbox” okruženjima, odnosno izoliranim sredinama.

Dana 7. augusta, OpenAI je saopćio da pojačava sigurnosne kontrole za svoje najmoćnije modele i pauzira sve aktivnosti vezane za svoj još neobjavljeni frontier AI, nazvan Astra, koji još nije ispunio ove zahtjeve. OpenAI je naveo da poduzima ove mjere u skladu sa svojim ranije najavljenim planom za upravljanje potencijalno kritičnim sposobnostima, nazvanim Preparedness Framework. U utorak su izvršni direktori OpenAI-ja izjavili da će industriji biti potrebna sveobuhvatnija strategija za pripremu za buduće modele.