Sajber kriminal postaje sve ozbiljnija prijetnja povezana s razvojem umjetne inteligencije. Googleova grupa za obavještajne podatke o prijetnjama (GTIG) otkrila je napadača koji je koristio “zero-day” ranjivost za koju se vjeruje da je pronađena uz pomoć AI. Ovakve ranjivosti su posebno opasne jer mete nisu svjesne postojanja propusta.

U svom izvještaju, Google navodi da je napadač planirao masovnu eksploataciju ranjivosti, ali da je pravovremeno otkriće vjerovatno spriječilo realizaciju plana. Istražitelji ne smatraju da su korišćeni Google Gemini modeli, ali su uvjereni da je neki drugi AI model učestvovao u pronalaženju i pretvaranju ranjivosti u napadačko oružje.

S obzirom na brzi razvoj AI modela za svakodnevnu upotrebu, očekivano je da se oni koriste i u zlonamjerne svrhe. John Hultquist, glavni analitičar u GTIG-u, u intervjuu za The New York Times izjavio je da je ovaj slučaj “nagovještaj onoga što dolazi” i “vrh ledenog brijega”, predstavljajući prvi “opipljivi dokaz” ovakvih napada.

Google u izvještaju napominje da napadači koriste AI u različitim fazama sajber napada, ali da AI istovremeno može biti snažan alat za odbranu. Slično Googleu, druge kompanije koriste AI za preventivne mjere. Prošlog mjeseca, Anthropic je najavio Project Glasswing, koji koristi model Claude Mythos Preview za pronalaženje i odbranu od kritičnih ranjivosti.