Meta-in model vještačke inteligencije uspio je da probije sigurnosni sistem jedne druge kompanije, a do incidenta je došlo zbog greške u konfiguraciji koju je napravio nezavisni partner za testiranje, kompanija Irregular. Kako se navodi, AI je dobio pristup internetu, a Irregular je pokrenula istragu o ovom slučaju.

Meta je u svom saopćenju istakla da je njen model iskoristio sigurnosni propust u usluzi treće strane, na način koji je sličan ranije prijavljenim slučajevima kod drugih kompanija.

Portparol kompanije Irregular izjavio je za Reuters da se radi o “potpuno istom problemu u okruženju za testiranje koji je Anthropic već objavio prošle sedmice”, naglašavajući da nije bilo izlaska iz izolovanog okruženja niti sofisticiranog sajber napada.

Prema njegovim riječima, trenutno nema otvorenih sigurnosnih problema, a kompanija priprema stručni dokument s preporukama za najbolje prakse u oblasti zaštite i sigurnog provođenja sajber testiranja.

Nije izolovan slučaj

Ovaj incident samo je jedan u nizu sve češćih slučajeva u kojima su AI modeli vodećih tehnoloških kompanija tokom sigurnosnih provjera uspijevali da naruše sisteme drugih organizacija.

Prošle sedmice kompanija Anthropic saopćila je da su pojedini njeni modeli Claude tokom testiranja kompromitovali sisteme tri kompanije, dok je OpenAI objavio da je njegov AI agent uspio da prodre u sistem startapa Hugging Face.

Za razliku od ovih slučajeva, koji su nastali zbog grešaka koje su njihovim modelima nenamjerno omogućile pristup otvorenom internetu, OpenAI je saopćio da je njegov AI agent samostalno iskoristio do tada nepoznatu ranjivost kako bi tokom testiranja ostvario pristup internetu.