OpenAI je u utorak saopćio da su tokom sigurnosnog testiranja neki od njegovih naprednih AI modela izmakli kontroli i izazvali hakiranje koje je ugrozilo infrastrukturu startupa Hugging Face prošle sedmice.

U objavi na blogu, OpenAI je naveo da je testirao mogućnosti svojih najnaprednijih modela u kontroliranom okruženju, ali su oni uspjeli pobjeći iz izolacije, doći do interneta i provaliti u Hugging Face kako bi ispunili svoj testni cilj.

Kompanija je opisala ovaj proboj kao “neviđeni sajber incident koji uključuje najsavremenije sajber sposobnosti” te je najavila pojačavanje sigurnosnih mjera.

Hugging Face, platforma koja se koristi za hostovanje open-source velikih jezičkih modela i skupova podataka, izazvao je uzbuđenje u sajber sigurnosnoj zajednici kada je prošle sedmice u blog postu naveo da je bio meta hakiranja koje je “bilo drugačije od svega što smo do sada vidjeli”, jer je “od početka do kraja bilo vođeno autonomnim AI agentskim sistemom”.

OpenAI-jevo priznanje da su njegovi napredni modeli odgovorni za proboj, iako su bili smješteni u ono što je opisano kao “vrlo izolirano okruženje”, vjerovatno će pojačati zabrinutost zbog moći i rizika graničnih modela.