Kompanijama Apple i Google upućene su opomene pred tužbu u kojima se zahtijeva uklanjanje aplikacija pokrenutih vještačkom inteligencijom koje omogućavaju “skidanje odjeće” sa fotografija, poznatih kao nudify aplikacije.

Gradski tužilac San Franciska, David Chiu, naredio je uklanjanje 13 aplikacija koje pomoću vještačke inteligencije stvaraju deepfake slike golih tijela. U pismima se Apple i Google optužuju za pomaganje i podsticanje širenja intimnih snimaka nastalih bez pristanka, te se traži prekid saradnje sa programerima tih aplikacija.

Chiu je ranije već podnio tužbu protiv 16 web-sajtova sa sličnom namjenom. Za Wired je izjavio da su Apple i Google vjerovatno zaradili milione dolara od kupovina unutar tih aplikacija, te da je potrebna stroža provjera sadržaja kako se takve aplikacije ne bi uopšte odobravale.

Iako javnost već duže vrijeme negoduje zbog deepfake tehnologije, izvještaj Projekta za tehnološku transparentnost (TTP) otkrio je da su aplikacije za skidanje odjeće često prolazile mimo moderatora Applea i Googlea.

Izvještaj ide korak dalje, tvrdeći da su neke od tih aplikacija bile aktivno promovisane na App Store i Google Play platformama. Mnoge su imale oznaku “E” (za sve uzraste), što je značilo da ih i djeca mogu preuzeti. Pronalaženje aplikacija bilo je jednostavno – dovoljno je pretražiti pojmove poput “nudify” ili “undress”, iako obje kompanije imaju pravila koja zabranjuju seksualni i pornografski sadržaj.

Apple i Google nisu jedini na udaru. Nadzorni odbor kompanije Meta pozvao je na bolju zaštitu običnih ljudi koji su mete ovakvih napada, jer postojeće mjere naizgled štite samo javne ličnosti. Kompanija xAI Elona Muska također se suočila s nekoliko tužbi zbog deepfake sadržaja nastalih bez pristanka.

Portparol Googlea izjavio je da su uklonili stotine aplikacija sa funkcijama za skidanje odjeće, od kojih je na pet skrenuo pažnju sam Chiu, te da preduzimaju brze mjere kada se utvrdi kršenje pravila.

Apple je poručio da je App Store dizajniran kao sigurno mjesto od povjerenja i da su oduvijek strogo zabranjivali aplikacije za generisanje, distribuciju ili konzumiranje pornografije. Uklonili su tri sporne aplikacije i u procesu su gašenja programerskih naloga njihovih autora, a kontaktirali su još četiri autora koji moraju riješiti kršenja pravila ili rizikuju uklanjanje.