Umjetna inteligencija dramatično mijenja način na koji kriminalci stvaraju, šire i zarađuju na seksualiziranim sadržajima djece, upozorava Globalna inicijativa protiv transnacionalnog organiziranog kriminala (GI-TOC). Ključni problem nije samo tehnološki napredak, već činjenica da kriminalna upotreba AI alata nadmašuje brzinu kojom se zakoni, institucije i istražni kapaciteti prilagođavaju, prenosi BIRN BiH.

Anesa Agović Đozo, viša analitičarka GI-TOC-a i koautorica izvještaja “Abuse at scale: Artificial intelligence is reshaping child sexual exploitation”, ističe da je generativna umjetna inteligencija znatno snizila tehničke i finansijske barijere za izradu uvjerljivih seksualiziranih prikaza djece.

Ona objašnjava da se fotografije s društvenih mreža danas mogu brzo izmijeniti, seksualizirati ili ugraditi u potpuno sintetički sadržaj bez znanja djeteta. Dodaje da su postojeći zakoni i alati za otkrivanje uglavnom dizajnirani za fotografski materijal stvarnog zlostavljanja, dok se sada suočavamo s masovnom proizvodnjom sintetičkog i manipulisanog sadržaja.

Izvještaji međunarodnih organizacija ukazuju na nagli porast AI-generiranog materijala seksualnog zlostavljanja djece (CSAM) posljednjih godina, s procjenom da je najmanje 1,2 miliona djece imalo svoj lik iskorišten za takav sadržaj. Prema analizi GI-TOC-a, sintetički CSAM ne mora zamijeniti stvarni materijal, već može proširiti tržište, povećati potražnju, normalizirati seksualizaciju djece i olakšati prelazak počinilaca na teže oblike nasilja.

Livia Wagner, šefica kabineta i tematska voditeljica za trgovinu ljudima u GI-TOC-u, objašnjava da je online seksualna eksploatacija djece ranije bila povezana sa zatvorenim zajednicama gdje su ključnu ulogu imali tehnički potkovani pojedinci. Međutim, posljednjih godina primjetan je trend industrijalizacije kriminalnih aktivnosti u cyber prostoru, a umjetna inteligencija je dio tog procesa jer omogućava stvaranje ekosistema u kojem različiti akteri mogu biti specijalizirani za različite funkcije unutar kriminalnog lanca.

Ta specijalizacija može uključivati kreiranje sadržaja, distribuciju, finansijske usluge, odabir žrtava, vrbovanje djece, administraciju platformi i druge aktivnosti. Wagner ističe da to čini kriminalne mreže otpornijima jer različiti učesnici preuzimaju različite uloge, a pojedinci postaju međusobno zamjenjivi.

Agović Đozo dodaje da zloupotrebu AI alata i dalje mogu činiti pojedinci ili manje zatvorene online zajednice, jer generativni alati omogućavaju proizvodnju sadržaja bez naprednog tehničkog znanja. Istovremeno se primjećuje profesionalizacija i komercijalizacija ovog kriminalnog tržišta, pri čemu se ne radi o potpunom preuzimanju od strane organizovanih kriminalnih grupa, već o nastanku slojevitog tržišta u kojem individualni počinioci, tehnički posrednici, administratori platformi, pružaoci AI alata, distributeri i finansijski posrednici mogu djelovati kao dio iste kriminalne ekonomije, čak i kada se međusobno ne poznaju.

Promjena se ogleda u prelasku na modele crime-as-a-service, gdje kriminalci više ne moraju sami razvijati tehnologiju ili posjedovati posebne vještine. Mogu koristiti gotove AI modele, chatbot servise, aplikacije za manipulaciju fotografijama, pretplatničke platforme i infrastrukturu za distribuciju i naplatu. Prema izvještaju, umjetna inteligencija danas se koristi kroz različite faze seksualne eksploatacije djece, od stvaranja lažnih identiteta i automatizovanog vrbovanja žrtava do proizvodnje i distribucije sadržaja.

Međunarodne policijske operacije pokazale su razmjere problema. Operacija Cumberland, koju su tokom 2025. predvodile vlasti iz 19 država, razotkrila je jednu od prvih transnacionalnih mreža za distribuciju AI-generiranog CSAM sadržaja, pri čemu je identificirano gotovo 300 korisnika širom svijeta. Operacija “Torch” u julu 2026. rezultirala je hapšenjima u više evropskih država. Detektor je ranije pisao o prvom hapšenju u Banjoj Luci zbog dječije pornografije koju je generirala umjetna inteligencija.

Agović Đozo smatra da je jedan od najvećih propusta tehnoloških kompanija to što se sigurnost djece često tretira kao dodatna funkcija, umjesto kao osnovni princip razvoja proizvoda. Kompanije ulažu ogromne resurse u brzinu, kvalitet i dostupnost modela, dok se testiranje zloupotrebe, zaštita podataka djece i sprečavanje seksualiziranog sadržaja često razvijaju tek nakon što je šteta već nastala. Zbog toga smatra da kompanije moraju biti obavezne provoditi detaljne procjene rizika prije objavljivanja novih AI sistema, a princip mora biti jednostavan: proizvod koji se može masovno zloupotrijebiti za seksualnu eksploataciju djece ne bi smio biti dostupan bez odgovarajuće zaštite.

Evropska unija napravila je određene korake kroz regulaciju kojom se zabranjuju nudifier aplikacije i AI sistemi koji stvaraju materijal seksualnog zlostavljanja djece ili prikazuju intimne dijelove tijela bez pristanka. Ipak, istraživanje upozorava da regulatorni sistemi često ne mogu pratiti brzinu tehnoloških promjena. Kriminalci mogu testirati i prilagoditi novi alat u roku od nekoliko dana, dok su za izmjenu zakona, obuku tužilaca i policije, nabavku forenzičkih alata i međunarodno usaglašavanje često potrebne godine.

Kao najvažniju mjeru zaštite, Livia Wagner izdvaja veću odgovornost tehnoloških kompanija, ali naglašava da problem ne treba posmatrati isključivo kao tehnološki izazov. Ne postoji univerzalno rješenje, tvrdi, a potrebno je pitanje posmatrati kroz okvir globalne odgovornosti. Kompanije koje razvijaju i primjenjuju napredne AI sisteme moraju sistematski procjenjivati rizike po sigurnost djece, provoditi mjere za njihovo ublažavanje i dokazivati da su te mjere djelotvorne.

Wagner ističe da govorimo o djeci koja su najranjivija na online eksploataciju, ali su često jednako ranjiva i izvan digitalnog okruženja. To je pitanje razvoja, socijalne isključenosti, slabih sistema zaštite, rodne neravnopravnosti, ali i digitalne pismenosti. Zaključuje da se tehnologija brzo razvija i teško je predvidjeti kako će izgledati u budućnosti, ali da se već sad može zaključiti da su postojeće društvene i ekonomske ranjivosti često presudniji faktor od same tehnologije. Upozorava i na činjenicu da kriminalne mreže djeluju globalno, dok regulacija, krivično gonjenje i pomoć žrtvama uglavnom ostaju u nadležnosti pojedinačnih država.

Zbog toga su, prema njenim riječima, potrebni snažniji mehanizmi međunarodne razmjene podataka, usklađivanje pravnih standarda i veće uključivanje tehnološkog i fintech sektora. Detektor je ranije pisao kako je Evropski parlament podržao prijedlog kojim bi aplikacije poput WhatsAppa, Signala i drugih servisa s end-to-end enkripcijom ostale izuzete od automatskog skeniranja privatnih poruka u potrazi za materijalima seksualnog zlostavljanja djece. Konačnu riječ sada ima Vijeće Evropske unije, koje će u naredna tri mjeseca odlučiti hoće li prihvatiti taj pristup ili će uslijediti novi pregovori o pravilima koja pokušavaju uskladiti zaštitu djece i pravo građana na privatnu komunikaciju.