Umjetno stvoreni videozapisi koji kruže platformom X, vlasništva Elona Muska, prikazuju američke vojnike zarobljene od strane Irana, izraelski grad u ruševinama i američke ambasade u plamenu. Riječ je o navali izuzetno uvjerljivih deepfake-ova, unatoč nedavno objavljenoj politici koja treba obuzdati ratnu dezinformaciju.

Sukob na Bliskom istoku pokrenuo je lavinu vizuala generiranih umjetnom inteligencijom, koja nadmašuje sve što je viđeno u prethodnim sukobima, a korisnici društvenih mreža često ne mogu razlikovati laž od stvarnosti, ističu istraživači.

Nova politika i skeptični odziv

U nastojanju da zaštiti “autentične informacije” tokom sukoba, X je 3. marta najavio da će kreatore koji objavljuju ratne videozapise generirane umjetnom inteligencijom bez naznake da su umjetno napravljeni, suspendirati iz svog programa dijeljenja prihoda na 90 dana. “Naknadna kršenja rezultirat će trajnom suspenzijom”, upozorio je u objavi Nikita Bier, šef proizvoda za X.

Nova politika predstavlja značajan zaokret za platformu koja je bila žestoko kritizirana što je postala utočište dezinformacija otkako je Musk u oktobru 2022. godine završio akviziciju stranice vrijednu 44 milijarde dolara. Politiku je pohvalila visoka dužnosnica State Departmenta Sarah Rogers, nazvavši je “odličnim dopunom” sistemu Community Notes na X-u.

Međutim, istraživači dezinformacija ostaju skeptični. “Feedovi koje pratim i dalje su preplavljeni sadržajem o ratu generiranim umjetnom inteligencijom”, rekao je za AFP Joe Bodnar iz Instituta za strateški dijalog. “Čini se da kreatori nisu obeshrabreni od širenja obmanjujućih slika i videozapisa generiranih umjetnom inteligencijom o sukobu”, dodao je.

Plavi znakovi i ekonomski podsticaji

Bodnar je istaknuo objavu jednog od vrhunskih računa na X-u sa “plavim znakom” koji je podijelio AI isječak prikazujući iranski “nuklearni” napad na Izrael. Ta objava skupila je više pregleda od Bierove poruke o suzbijanju AI sadržaja.

Globalna mreža AFP-ovih provjeravača činjenica identificirala je niz AI lažaka o ratu na Bliskom istoku, od kojih mnogi dolaze s premium računa na X-u sa plavim znakovima koji se mogu kupiti. Oni uključuju AI videozapise koji prikazuju uplakanog američkog vojnika u razrušenoj ambasadi, zarobljene američke trupe na koljenima pored iranskih zastava i uništenu flotu američke mornarice.

Buјica umjetno fabrikovanih vizuala – pomiješanih s autentičnim snimcima s Bliskog istoka – nastavlja rasti brže nego što ih profesionalni provjeravači činjenica mogu opovrgnuti. Grok, vlastiti AI chatbot X-a, čini se da je pogoršao problem, pogrešno govoreći korisnicima koji traže provjeru činjenica da su brojni AI vizuali iz rata stvarni.

Istraživači su također upozorili da je model X-a – koji premium računima omogućava zaradu na osnovu angažmana – pojačao finansijski podsticaj za širenje lažnog ili senzacionalističkog sadržaja. Jedan premium račun, koji je objavio AI video nebodera Burj Khalifa u Dubaiju zahvaćenog plamenom, ignorirao je Bierov zahtjev da označi sadržaj kao AI. Objava je ostala na mreži, skupivši više od dva miliona pregleda.

Čak i kada bi politika demonetizacije X-a bila striktno provođena, veliki broj korisnika X-a koji promoviraju AI sadržaj nije dio programa dijeljenja prihoda, kažu istraživači. Ti korisnici i dalje podliježu provjeri činjenica kroz Community Notes, sistem čija je efikasnost više puta dovedena u pitanje.