Grok Elona Muska generiše nasilne i porno slike žena na X-u

Društvena mreža X, ranije poznata kao Twitter, nedavno je postala poprište uznemirujućeg trenda. Korisnici su masovno počeli da traže od Groka, AI chatbota u vlasništvu Elona Muska, da uklanja odjeću sa fotografija stvarnih osoba. To je rezultiralo velikim brojem pornografskih slika, stvorenih bez saglasnosti, koje su preplavile ovu platformu sa slabom moderacijom. Međutim, kako piše Futurism, to je bio tek početak.

Žrtve seksualizacije postale su anonimne žene, poznate glumice, pa čak i prva dama Sjedinjenih Američkih Država. Neke od slika su prikazivale i maloljetnice. Ubrzo se pojavio još gori problem: korisnici su počeli da traže od Groka da generiše slike na kojima se stvarne žene seksualno zlostavljaju, ponižavaju, povređuju, pa čak i ubijaju.

Usmjereno na najranjivije

Veliki dio ovog nasilnog sadržaja bio je usmjeren na online modele i seksualne radnice, grupu koja je već izložena velikom riziku od nasilja u stvarnom životu. Jedna od uznemirujućih slika koje je generisao Grok prikazivala je poznatu manekenku vezanu u prtljažniku automobila, pored lopate i plave cerade, što je jasno ukazivalo na ubistvo.

Neke slike su uključivale eksplicitne zahtjeve da Grok stavi žene u situacije napada, što je bilo očigledno iz instrukcija chatbotu da žene “izgledaju prestrašeno”. Pojedini korisnici su tražili da se po tijelima žena ispisuju ponižavajuće poruke, dok su drugi zahtijevali da im Grok doda vidljive povrede, poput modrica.

Mnoge slike su prikazivale žene vezane protiv svoje volje, a zabilježen je i slučaj u kojem je korisnik zatražio stvaranje incestuozne pornografije, što je chatbot bez problema ispunio. Činjenica da se chatbot integrisan u društvenu mrežu tako lako može pretvoriti u alat za generisanje nasilnih i neželjenih slika stvarnih žena je vrlo problematična.

Dodatno zabrinjava to što su kreatori ovih slika često to shvatali kao igru ili mem, pristupajući svemu sa dozom humora i ravnodušnosti. Takav pristup može ukazivati na opasnu normalizaciju sadržaja stvorenog bez pristanka, koji je ranije bio skriven u mračnim dijelovima interneta.

U međuvremenu, žene i djevojke se i dalje suočavaju sa stvarnom štetom uzrokovanom deepfakeovima, koje je sada lakše nego ikada generisati zahvaljujući AI alatima. Elon Musk, vlasnik X-a i xAI-ja, oglasio se na društvenoj mreži i zamolio korisnike da “nam pomognu učiniti Grok što savršenijim”. “Vaša podrška”, dodao je, “vrlo je cijenjena”.