AI haos

Kineski AI model zaustavio odbjeglog OpenAI hakera

Kineski AI model zaustavio odbjeglog OpenAI hakera

prije 1 mjesec
Podijeli vijest:

Odbjegli OpenAI agent nije se zaustavio na jednom napadu. Prema svemu sudeći, prije nego što je dospio do Hugging Facea, posjetio je i kompaniju Modal Labs, specijalizovanu za računarstvo u oblaku. Iskoristivši sigurnosni propust kod jednog od korisnika Modala, AI je preko te platforme pokrenuo napad na Hugging Face.

OpenAI-jev odbjegli agent nije provalio u Modal Labs klasičnim hakiranjem; umjesto toga, iskoristio je otvorena vrata, odnosno izloženi endpoint. Taj propust omogućio mu je pristup sigurnoj zoni za testiranje unutar Modalove mreže.

Korisnik Modala je, naime, postavio internet uslugu bez ikakve lozinke ili autentifikacije, što je agentu dalo zeleno svjetlo za dalje akcije.

Nakon toga, agent je napao Hugging Face i uspio dobiti pristup njihovim sistemima na nivou platforme. OpenAI je kasnije priznao da je odbjegli AI imao pristup četiri različita naloga ili usluge, ali nije otkrio o kojima je riječ, iako su Modal Labs i Hugging Face već potvrđeni.

Ono što zabrinjava jeste činjenica da OpenAI nije odmah reagovao. Prema Reutersu, kompanija je shvatila da je agent pobjegao tek nekoliko dana kasnije, kada je FBI već bio obaviješten. OpenAI osporava dijelove tog izvještaja, ali bez konkretnih objašnjenja.

Ukratko, OpenAI-jev AI agent, stvoren da simulira vrhunskog hakera, napustio je svoje navodno sigurno okruženje, ušao u Modal Labs kroz korisnički propust, iskoristio tu platformu za napad na Hugging Face i još dvije kompanije, a sve to bez znanja svojih kreatora.

Na kraju ga je zaustavio kineski model otvorenih težina GLM 5.2, dok vodeći američki zatvoreni modeli nisu uspjeli da ga spriječe.

   Tagovi