Kompanija SpaceX, u svom regulatornom dokumentu S-1, upozorila je da bi višestruke istrage o kreiranju i širenju seksualno zlostavljajućih slika putem AI alata mogle dovesti do gubitka pristupa određenim tržištima. Ovo upozorenje dolazi uoči planiranog IPO-a vrijednog 1,75 biliona dolara, koji se očekuje ovog ljeta.

U dijelu dokumenta koji se odnosi na faktore rizika, SpaceX navodi da brojne agencije širom svijeta “aktivno istražuju i provode upite u vezi s društvenim mrežama ili upotrebom AI” u kontekstu oglašavanja, zaštite potrošača i distribucije štetnog sadržaja. Američki zakoni o vrijednosnim papirima zahtijevaju od kompanija da objave ovakve rizike kako bi upozorile investitore na potencijalne zamke, ali i zaštitile se od buduće pravne odgovornosti. Objavljivanje ovih informacija ne znači nužno da će se svaki navedeni ishod i ostvariti.

Istraga i optužbe

Jedan od ključnih izazova koje SpaceX ističe jeste da se suočava s “optužbama da su naši AI proizvodi korišteni za kreiranje nepristalih eksplicitnih slika ili sadržaja koji prikazuje djecu u seksualiziranim kontekstima”, navodi se u S-1 dokumentu. Ovakvi regulatorni upiti mogli bi SpaceX izložiti tužbama, odgovornosti i vladinim akcijama, “uključujući gubitak pristupa određenim tržištima, što se dešavalo i u prošlosti”.

Iako su u regulatornom dokumentu kao primjer navedene istrage koje je pokrenula Irska komisija za zaštitu podataka u februaru, xAI se suočava s pritiskom širom svijeta zbog eksplozije seksualiziranih slika. Sadržaj, koji je bio posebno vidljiv krajem 2025. i početkom 2026. godine, uključivao je slike gotovo golih žena i djece na platformi X.

Kompanija xAI je u januaru saopćila da je dodala mjere za blokiranje korisničkih zahtjeva za seksualiziranim slikama stvarnih osoba, te da sprječava korisnike da generiraju takav sadržaj u jurisdikcijama gdje je to ilegalno. Slike, koje je generirao xAI-jev interni chatbot Grok, prikazivale su žene, a ponekad i maloljetnike, u oskudnim bikinijima ili donjem rublju, ili montirane u ponižavajuće i jezive poze. Ove slike izazvale su široku uzbunu širom svijeta; jedna grupa istraživača procijenila je da postoji oko tri miliona seksualiziranih slika, dok su američki zakonodavci zahtijevali od Googlea i Applea da uklone Grok i X iz svojih trgovina aplikacija. Izvršni direktor SpaceX-a Elon Musk izjavio je u to vrijeme da zna za “bukvalno nijednu” golu maloljetničku sliku koju je napravio Grok.

Visoki ulozi

Razne istrage, pokrenute ranije u Kanadi, Britaniji, Brazilu, Kaliforniji i drugdje, još uvijek su u toku. U Francuskoj, na primjer, Musk se u ponedjeljak oglušio o pravni poziv da odgovara na pitanja tužilaca u vezi s optužbama za algoritamsku zloupotrebu, prijevarno izvlačenje podataka i saučesništvo u distribuciji materijala o seksualnom zlostavljanju djece.

Upozorenje iz S-1 dokumenta o pristupu tržištima ilustruje visoke uloge raznih istraga o xAI, posebno onih koje se tiču AI generiranja navodnih slika seksualnog zlostavljanja djece i nepristalih seksualnih slika žena. Kreiranje ovakvih slika može biti krivično djelo u nekim jurisdikcijama, a njihovo širenje je emotivno pitanje koje može brzo mobilizirati javno mnijenje.

Ograničenja koje je xAI uveo na Grok izgleda da su usporila, ali nisu zaustavila protok zlostavljajućeg materijala. U februaru je Reuters izvijestio da je Grok generirao seksualizirane slike ljudi čak i kada su korisnici eksplicitno upozorili chatbot da subjekti tih slika nisu dali pristanak. Prošle sedmice, NBC News je otkrio da Grok još uvijek javno generira seksualizirane slike, uključujući i one glumaca i pop zvijezda. Platforma X je već bila zabranjivana u raznim jurisdikcijama, uključujući 2024. u Brazilu, gdje je sajt blokiran nakon odbijanja da se povinuje sudskom nalogu. Kompanija je kasnije popustila i zabrana je ukinuta.