Federalni istražni biro (FBI) pokrenuo je istragu protiv kompanije X, nekadašnjeg Twittera, nakon što je otkriveno da je njen chatbot Grok, baziran na vještačkoj inteligenciji, korišten za stvaranje stotina lažnih nagih fotografija i video zapisa jedne žene bez njenog odobrenja.

Prema sudskim dokumentima, istražitelji su u januaru dobili nalog za pretres kako bi od X-a pribavili podatke o komunikaciji određenog korisnika sa Grok AI botom. Optuženi muškarac, Simon Tak, tereti se za uhođenje i uznemiravanje, a navodno je pomoću Groka generisao preko 200 eksplicitnih materijala koji su vjerno oponašali fizički izgled supruge muškarca kojeg je maltretirao.

Detalji istrage

U pregledanoj prepisci, istražitelji su pronašli upite koje je optuženi slao botu kako bi dobio pornografski sadržaj koji je “blisko ličio na fizički izgled žrtve”. Pored toga, Tak je navodno koristio vještačku inteligenciju i za pisanje lažnih profesionalnih pritužbi protiv supruga žrtve, koje je potom slao njegovom poslodavcu u pokušaju da mu naruši ugled.

Ovaj slučaj predstavlja najnoviji incident koji dovodi u pitanje sigurnosne protokole kompanije xAI, razvijača Groka. Ranije ove godine zabilježen je trend masovne upotrebe alata za “nudifikaciju”, odnosno skidanje odjeće sa fotografija. Izvještaji su pokazali da je Grok u jednom trenutku generisao oko 6.700 seksualno sugestivnih slika svakog sata.

Reakcija i ograničenja

Iako je vlasnik platforme Elon Musk prvobitno odbijao strožu regulaciju, X je na kraju ipak uveo određena ograničenja kako bi spriječio generisanje neprimjerenog sadržaja. Međutim, kritičari i istražitelji upozoravaju da su te mjere uvedene prekasno i da su nedovoljne, s obzirom da se bot i dalje može navesti da zaobiđe postavljene filtere.