Google i Apple su pod istragom zbog navodnog promovisanja aplikacija koje koriste umjetnu inteligenciju za generisanje seksualizovanih ili eksplicitnih slika stvarnih ljudi. Prema izvještaju organizacije Tech Transparency Project, ovi tehnološki giganti su preko svojih prodavnica usmjeravali korisnike ka softverima koji mogu “skinuti” odjeću sa fotografija ili umetnuti lice osobe u pornografske video zapise.

Dostupnost i zarada

Neke od ovih aplikacija nose oznaku “E” za sve uzraste, što ih čini dostupnim i djeci. Pretragom pojmova poput “nudify” ili “undress”, korisnici lako dolaze do ovih alata. Izveštaj navodi da su ove aplikacije ukupno zaradile oko 122 miliona dolara i preuzete čak 483 miliona puta, što ukazuje na njihovu široku upotrebu.

Direktorka TTP-a, Katie Paul, izjavila je za Bloomberg da kompanije ne samo da ne uspijevaju adekvatno kontrolisati sadržaj, već aktivno usmjeravaju korisnike ka ovim aplikacijama. “Ovo nije samo propust u moderaciji, već aktivno usmjeravanje ka štetnom sadržaju”, istaknula je Paul.

Reakcije kompanija i primjeri

Apple je saopćio da je uklonio 15 aplikacija pomenutih u izveštaju, dok je Google naveo da je suspendovao određeni broj njih i da istraga i dalje traje. Jedna od spornih aplikacija, Video Face Swap AI: DeepFace, omogućava korisnicima da ubace lice stvarne osobe na tijelo oskudno odjevenih žena, što otvara pitanja o pristanku i zloupotrebi ličnosti.

Ova istraga otvara šira pitanja o odgovornosti tehnoloških kompanija u regulaciji AI alata koji mogu biti korišteni za stvaranje duboko uvredljivog i potencijalno ilegalnog sadržaja. Eksperti upozoravaju da brzi razvoj AI tehnologije zahtijeva i brže reagovanje regulatora i platformi kako bi se spriječile zloupotrebe.