Sajber prijetnja

Anthropic ne pušta Mythos Preview u javnost: AI model previše riskantan za korištenje

Anthropic ne pušta Mythos Preview u javnost: AI model previše riskantan za korištenje

prije 4 sata
Ekran aplikacije Claude sa logom i dugmetom "Get".
Ekran aplikacije Claude sa logom i dugmetom "Get".
Podijeli vijest:

Prvi izvještaj o Glasswing projektu objavio je Anthropic, inicijativi za sajber sigurnost koja je startala u aprilu s ciljem da umjetnom inteligencijom spriječi napade – koristeći upravo AI. Ovaj projekat pokreće Claude Mythos Preview, još uvijek neobjavljeni model kompanije. Prema navodima Anthropica, model je već pomogao partnerima da otkriju više od deset hiljada ranjivosti, samo mjesec dana nakon lansiranja projekta. Većina partnera je pojedinačno pronašla na stotine kritičnih ili izuzetno ozbiljnih propusta u svom softveru.

Stopa otkrivanja bagova kod partnera porasla je više od deset puta, navode iz kompanije. Cloudflare je identifikovao dvije hiljade grešaka, od čega 400 s visokim ili kritičnim nivoom ozbiljnosti. Mozilla je ranije izvijestila da je pronašla i ispravila 271 propust u Firefoxu, što je deset puta više nego kada su koristili stariju verziju Claude modela.

Kompanija u izvještaju objašnjava da Mythos Preview još uvijek nije pušten u javnost jer nijedna organizacija, uključujući i njih, nije razvila dovoljno jake zaštitne mehanizme koji bi spriječili zloupotrebu ovako moćnog modela. Ipak, planiraju da u budućnosti lansiraju modele iz “Mythos klase” kada takve mjere zaštite budu dostupne. Za sada se fokusiraju na saradnju s partnerima poput vlade Sjedinjenih Država i drugih država kako bi proširili doseg Glasswing projekta. Ovo ukazuje na poboljšanje odnosa kompanije s američkom administracijom. Anthropic trenutno radi s nekoliko velikih partnera, uključujući Amazon Web Services, Apple, CrowdStrike, Google, JPMorganChase, NVIDIA i Palo Alto Networks, pored već navedenih.

Prema navodima, Anthropic je blizu ostvarenja profita prvi put otkako je osnovan 2021. godine. The Wall Street Journal je izvijestio da kompanija očekuje prihod od 10,9 milijardi dolara i operativni profit od 559 miliona dolara za tromjesečje koje završava u junu. Ipak, kompanija ne računa da će ostati profitabilna u narednim kvartalima jer planira više ulagati u računarske resurse i ostale troškove.

   Tagovi