Kompanija Anthropic saopćila je u četvrtak, 10. septembra, da je u proteklih osam mjeseci zaustavila nekoliko slučajeva zlonamjerne upotrebe svojih Claude modela, uključujući kampanju sajber špijunaže koja se dovodi u vezu s Rusijom, kao i napore kineskih AI kompanija koje su, kako tvrdi, pokušavale izvući i kopirati sposobnosti Claudea.

U svom najnovijem izvještaju o obavještajnim prijetnjama Anthropic navodi da sajberkriminalci i hakeri podržani od države sve više koriste umjetnu inteligenciju ne samo kao pomoć pri zadacima, nego i za orkestriranje i izvođenje velikih dijelova sajbernapada. Dodaje se i da su ljudi često bili nadzornici, a ne operateri koji sve rade ručno.

“Upotreba AI je nadilazila jednostavna pitanja i odgovore chatbota te je uključivala korištenje frameworka s više agenata koji izvršavaju” zadatke, naveo je Anthropic.

Anthropic tvrdi da je u tom periodu zaustavio napade iz sedam laboratorija sa sjedištem u Kini. Među laboratorijima koje Anthropic imenuje su tehnološki gigant Alibaba, Moonshot, DeepSeek i Xiaomi.

Operateri koje povezuje s Alibabom vodili su, kako navodi Anthropic, najveći napad “nedozvoljene distilacije”, navodno usmjeren na izvlačenje sposobnosti Claude modela i njihovo korištenje za unapređenje Qwen modela te kineske tehnološke kompanije. Alibaba nije odmah odgovorila na zahtjev za komentar.

Anthropic navodi da je između maja i jula 2026. zabilježio više od 151 milion interakcija koje pripisuje Alibabi, s vrhom od gotovo tri miliona dnevno, a koje su dolazile s više od 3.500 računa opisanih kao lažni.

Distilacija označava proces treniranja manjih AI modela pomoću rezultata većih i skupljih modela, s ciljem smanjenja troškova razvoja novog AI alata.

Umjesto masovnih upita, tvorac Kimi chatbota Moonshot i DeepSeek navodno su preusmjeravali žive razgovore korisnika, koji su ponekad sadržavali osjetljive informacije, kroz Claude i njegove odgovore koristili kao podatke za treniranje, tvrdi Anthropic.

Hakerska grupa čije je djelovanje u skladu s rusijom povezanim akterom Midnight Blizzard navodno je izvodila phishing, preuzimanje hotelskog Wi-Fi-ja i operacije preuzimanja WhatsAppa protiv meta u ukrajinskom vladinom, vojnom i diplomatskom sektoru, koristeći AI u gotovo svakoj fazi, navodi Anthropic.

Američka vlada je ranije povezivala Midnight Blizzard, ime koje je skovao Microsoft, s ruskom obavještajnom službom SVR. Ruska ambasada u Washingtonu nije odmah odgovorila na zahtjev za komentar.

Grupa je navodno koristila AI za izgradnju sistema koji automatski otkriva kada njen malver bude označen od sigurnosnih odbrana i prepisuje kod sve dok ponovno ne izbjegne detekciju.

Anthropic je također identifikovao ono što naziva “novim kategorijama aktera prijetnji” koji zloupotrebljavaju Claude, uključujući one koji platformu koriste za “razvoj softvera za konvencionalno oružje, uključujući vatreno oružje, projektile, naoružane dronove, bombe i drugu municiju, kao i ciljne i kontrolne sisteme koji njima upravljaju”. Izvještaj detaljno opisuje slučajeve u kojima su operateri koristili Claude za razvoj softvera za dizajn i razvoj oružja ili za podršku prikupljanju obavještajnih podataka i nabavci vezanoj za programske oružja u Kini, Rusiji i Jemenu.

Kompanija je saopćila da je otkrila i zaustavila aktivnosti povezane s filijalama sajberkriminalnog kolektiva ShinyHunters, jednog od najproduktivnijih sajberkriminalnih poduhvata posljednjih mjeseci, povezanog s napadima na velike korporacije širom svijeta.

Jacob Klein, šef obavještajnog odjela za prijetnje u Anthropicu, kazao je u intervjuu da su modeli tokom protekle godine postali sposobniji, što je podiglo nove rizike. “Prije godinu dana, recimo, ako ste htjeli optimizovati dron ili optimizovati softver na projektilu, modeli jednostavno ne bi bili tako dobri u tom zadatku kao što su sada”, rekao je.