Grok optužen za generisanje eksplicitnih slika Tejlor Svift bez zahtjeva korisnika

Novi AI alat Grok Imagine izazvao je burne reakcije javnosti zbog funkcije “Spicy mode”, koja omogućava generisanje seksualno sugestivnih sadržaja bez eksplicitnog zahtjeva korisnika. Među meta osobama našla se i popularna pjevačica Tejlor Svift.

U tekstu portala Ars Technica navodi se primjer novinarke koja je unijela naizgled bezopšan zahtjev: “Tejlor Svift proslavlja Koačela festival”. Rezultat je bio video koji prikazuje pjevačicu u oskudnoj odjeći i sugestivnim pozama, iako u upitu nije bilo nikakvih naznaka za takav sadržaj.

“Šokantno je da se ovakav sadržaj generiše bez direktnog zahtjeva. Time se ozbiljno narušava granica između tehnološke kreativnosti i osnovnih ljudskih prava”, upozoravaju stručnjaci.

Iako kompanija xAI, koju vodi Ilon Mask, tvrdi da zabranjuje pornografske prikaze stvarnih osoba, praksa ukazuje na suprotno. Korisnicima je dovoljno da potvrde da imaju više od 18 godina, bez dodatne provjere, čime se lako zaobilazi sistem zaštite.

Problem je dodatno eskalirao jer alat bilježi preko 34 miliona generisanih slika i videa, što alarmira javnost i pokreće pitanja o odgovornosti kreatora i regulatora.

“Ova tehnologija može da bude zloupotrebljena za sajber nasilje, ucjene i narušavanje privatnosti javnih ličnosti”, ističu pravni eksperti.

U trenutku kada SAD i EU pojačavaju pritisak na regulaciju deepfake pornografije, slučaj Grok Imagine dodatno pojačava zabrinutost oko razvoja vještačke inteligencije bez adekvatne kontrole. Kompanija xAI još se nije zvanično oglasila povodom optužbi.