AI aplikacije omogućavaju kreiranje lažnih video-snimaka ljubljenja, ali koliko je to sigurno?

Društvene mreže preplavljene oglasima za AI alate koji generišu lažne snimke – stručnjaci upozoravaju na etičke dileme

Reklame za aplikacije koje koriste vještačku inteligenciju (AI) kako bi kreirale lažne video-snimke ljubljenja između bilo kojih osoba, uključujući poznate ličnosti, preplavile su TikTok i Instagram.

Platforme su objavile na hiljade reklama za AI aplikacije koje omogućavaju korisnicima da učitaju fotografije bilo koje dvije osobe, nakon čega AI generiše video-snimak na kojem se te osobe ljube. Ovi alati se reklamiraju kao način da „poljubite bilo koga koga želite“, i to bez ikakvog pristanka.

Slično aplikacijama koje koriste deepfake tehnologiju za kreiranje lažnog eksplicitnog sadržaja, i ove aplikacije predstavljaju ozbiljan etički problem. Stručnjaci upozoravaju da se time normalizuje upotreba lažnih slika i potencijalno narušava privatnost pojedinaca.

Koliko je problem široko rasprostranjen?

Meta je na Instagramu i Facebooku prikazala više hiljada reklama za AI aplikacije za ljubljenje, od čega je veliki broj i dalje aktivan. TikTok je prikazao značajan broj reklama evropskim korisnicima, ali nije poznato koliko ih je bilo dostupno u SAD-u.

Veliki broj ovih oglasa prikazuje poznate ličnosti kako se ljube međusobno. Također, mnoge reklame promovišu mogućnost da „poljubite bivšeg“ ili „poljubite simpatiju“. Nije jasno da li su svi ljudi u video-snimcima stvarni ili generisani pomoću AI tehnologije.

Meta je otišla i korak dalje, pa promovira i aplikacije za „AI zagrljaje“, uključujući video-snimke djece koja grle animirane likove poput Dore Istraživačice, Miki Mausa i Toma i Džerija. Neke reklame prikazuju mladu djevojčicu kako grli starijeg muškarca, uz obećanja roditeljima da AI može omogućiti njihovoj djeci da „zagrle bake i djedove koje nikada nisu upoznali“.

Poznate ličnosti na meti deepfake tehnologije

AI-generisani video-snimci ljubljenja i grljenja već su postali viralni na društvenim mrežama. Jedan takav video prikazuje Taylor Swift kako grli Kim Jong Una i ima desetine miliona pregleda na Instagramu. Krajem decembra pojavio se i deepfake video koji prikazuje Elona Muska i italijansku premijerku Giorgiu Meloni kako se ljube.

Portparol Mete izjavio je da ove reklame ne krše politiku kompanije, budući da Metini standardi zabranjuju seksualno eksplicitne ili sugestivne sadržaje, ali ne i snimke ljubljenja i grljenja.

TikTok, s druge strane, ima strože smjernice – nakon što su primili upite o ovim reklamama, platforma ih je uklonila uz objašnjenje da se u reklamama moraju dobiti dozvole osoba koje se pojavljuju, čak i ako su snimci generisani pomoću AI.

Milioni preuzimanja – ali po kojoj cijeni?

Aplikacije koje omogućavaju AI ljubljenje i grljenje dostupne su na Appleovoj i Google Play prodavnici i već imaju milione preuzimanja. Funkcija „AI ljubljenja“ samo je dio šireg paketa opcija koje uključuju uređivanje fotografija, podmlađivanje slika i predviđanje izgleda buduće djece određenih parova.

Ove aplikacije razvijaju kompanije izvan SAD-a, uključujući one u Ujedinjenim Arapskim Emiratima, Italiji i Kini. Apple i Google još uvijek nisu dali komentare na ove kontroverzne tehnologije.

Opasnost za djecu i normalizacija eksploatacije

Stručnjaci upozoravaju da bi AI aplikacije poput ovih mogle otvoriti vrata ozbiljnijim zloupotrebama, uključujući deepfake pornografski sadržaj i druge oblike digitalne eksploatacije.

„Ovaj trend normalizuje eksploatativne deepfake snimke i tretira učešće bez pristanka u intimnim ili seksualiziranim slikama kao šalu“, izjavila je Haley McNamara, direktorica Nacionalnog centra za seksualnu eksploataciju.

Naročito zabrinjavajuće je to što je AI-generisani materijal seksualnog zlostavljanja djece (CSAM) u rapidnom porastu. Nacionalni centar za nestalu i eksploatisanu djecu (NCMEC) primio je više hiljada prijava AI-generisanog materijala povezanog s eksploatacijom djece u posljednje dvije godine.

U jednom od prijavljenih slučajeva, pedofil je koristio AI alat kako bi stvorio hiljade ilegalnih slika djece nakon što ih je prethodno snimao na javnim mjestima.

Zaključak: Gdje povući granicu?

Dok AI tehnologija napreduje nevjerovatnom brzinom, etička pitanja oko privatnosti i saglasnosti postaju sve izraženija. Ono što se možda čini bezazlenim ili zabavnim, poput AI ljubljenja ili zagrljaja, može dovesti do ozbiljnijih problema, posebno ako se ovakve tehnologije koriste za manipulaciju bez pristanka.

Regulacija deepfake sadržaja i zaštita privatnosti postaju ključni izazovi za društvene mreže i tehnološke kompanije. Do tada, korisnici bi trebali biti svjesni potencijalnih opasnosti i dva puta razmisliti prije nego što preuzmu i koriste ovakve AI alate.