Google je otkrio da je njegov najsnažniji sistem vještačke inteligencije, Gemini, bio meta sofisticiranih digitalnih napada. Kako se saznaje, nepoznati napadači su koristili desetine hiljada pažljivo osmišljenih upita u pokušaju da dešifruju unutrašnju logiku i arhitekturu ovog naprednog AI modela.

Sto hiljada upita pre nego što je Google reagovao

U jednom od zabilježenih slučajeva, napadači su usmjerili preko 100.000 upita ka sistemu prije nego što je Google uočio šta se dešava i postavio dodatne zaštitne barijere. Cilj ovakvih operacija je jasan: konkurenti žele da repliciraju način na koji Gemini ‘razmišlja’ i donosi zaključke, bez potrebe da ulažu milijarde dolara u vlastiti razvoj. Umjesto toga, pokušavaju da koriste odgovore Geminija kako bi rekonstruisali njegovu osnovu i napravili jeftinije kopije, što Google kategorički označava kao krađu intelektualne svojine.

Zaštita ‘mozga’ mašine

Kako navode izvori, mnogi napadi su bili fokusirani na razotkrivanje specifičnih algoritama koji omogućavaju AI modelu da odluči kako će obraditi i povezati informacije. Portparol Google-a je potvrdio da iza ovih aktivnosti vjerovatno stoje privatne firme i istraživačke grupe koje žele da steknu prednost na sve konkurentnijem tržištu vještačke inteligencije. Problem za inženjere je što se ovi zlonamjerni upiti vrlo teško razlikuju od legitimnih korisnika koji su samo znatiželjni ili koriste AI za ozbiljan posao. Napadači su postali vješti u maskiranju, šaljući upite sa različitih IP adresa i u različito vrijeme dana kako bi izbjegli detekciju, što zahtijeva stalno nadograđivanje odbrambenih sistema.