Upozorenje na rastući problem

Organizacija Ujedinjenih naroda za djecu, UNICEF, izrazila je duboku zabrinutost zbog sve većeg broja izvještaja o korištenju umjetne inteligencije (AI) za seksualizaciju djece. U srijedu su pozvali države širom svijeta da uvedu zakonske sankcije za kreiranje sadržaja koji prikazuje seksualno zlostavljanje djece generisano pomoću AI.

Agencija je također uputila apel kreatorima AI modela da primjenjuju sigurnosne principe od samog dizajna i implementiraju zaštitne mehanizme kako bi se spriječila zloupotreba ovih tehnologija. Digitalne kompanije su pozvane da pojačaju napore u moderiranju sadržaja i investiraju u tehnologije za detekciju kako bi zaustavile širenje ovakvih slika.

UNICEF je naglasio da je šteta prouzrokovana ‘dubokim lažima’ (deepfakes) stvarna i hitna, te da djeca ne mogu čekati da zakoni sustignu tehnološki napredak. ‘Duboke laži’ su slike, videozapisi i audiozapisi generisani pomoću AI koji uvjerljivo imitiraju stvarne osobe.

Šokantni podaci i globalne posljedice

Posebnu zabrinutost UNICEF izražava zbog fenomena ‘nudifikacije’ djece, gdje se AI koristi za uklanjanje ili izmjenu odjeće na fotografijama kako bi se kreirale fabrikovane slike golotinje ili seksualiziranog sadržaja. Prema podacima UNICEF-a, najmanje 1,2 miliona djece u 11 zemalja prijavilo je da su njihove slike u protekloj godini manipulirane u seksualno eksplicitne ‘duboke laži’.

Velika Britanija je najavila planove da učini nezakonitim korištenje AI alata za kreiranje slika seksualnog zlostavljanja djece, čime bi postala prva zemlja koja je poduzela takav korak. U posljednjih nekoliko godina, zabrinutost raste u vezi s korištenjem AI za generisanje sadržaja koji prikazuje zlostavljanje djece, a posebno su pod lupom bili chatbotovi poput Grok-a, u vlasništvu Elona Muska, koji je bio kritiziran zbog proizvodnje seksualiziranih slika žena i maloljetnika.

Istraga agencije Reuters otkrila je da je chatbot nastavio proizvoditi takve slike čak i kada su korisnici izričito upozoravali da subjekti nisu dali pristanak. Kompanija xAI je 14. januara saopštila da je ograničila uređivanje slika za korisnike Grok AI i blokirala korisnike, na osnovu njihove lokacije, od generisanja slika osoba u oskudnoj odjeći u ‘jurisdikcijama gdje je to nezakonito’, ali nije precizirala o kojim zemljama je riječ. Ranije su ograničili korištenje funkcija generisanja i uređivanja slika Grok-a samo na pretplatnike.