Novi Zeland postaje epicentar inovativnog pristupa u borbi protiv nasilnog ekstremizma koji se širi putem vještačke inteligencije. Firma ThroughLine, koja već saraduje sa gigantima poput OpenAI, Anthropic i Googlea, razvija alat koji će korisnike ChatGPT-a koji pokazuju sklonost nasilnom ekstremizmu preusmjeravati ka podršci za deradikalizaciju, bilo putem ljudi ili specijalizovanih chatbotova.

Reakcija na rastuće sigurnosne prijetnje

Ova inicijativa predstavlja najnoviji pokušaj da se odgovori na sigurnosne zabrinutosti u svijetu AI-a, posebno nakon niza tužbi protiv kompanija koje se optužuju da nisu uspjele spriječiti, pa čak i olakšale nasilje. Slučaj iz februara, kada je kanadska vlada zaprijetila intervencijom OpenAI-u nakon što je otkriveno da je platforma samo zabranila korisnika koji je izvršio smrtonosni napad u školi, a da nije obavijestila vlasti, samo je podigao alarm.

Elliot Taylor, osnivač ThroughLine-a i bivši radnik sa omladinom, otkriva da njegova firma, osim što već preusmjerava korisnike u krizi (rizik od samopovređivanja, nasilja u porodici, poremećaja ishrane), istražuje načine da proširi svoju ponudu i na prevenciju nasilnog ekstremizma.

Saradnja i razvoj hibridnog modela

ThroughLine je u pregovorima sa inicijativom “The Christchurch Call”, nastalom nakon najtežeg terorističkog napada u istoriji Novog Zelanda 2019. godine, čiji je cilj iskorijenjivanje mržnje na internetu. Ova antiekstremistička grupa bi pružala smjernice dok ThroughLine razvija intervencijski chatbot.

“To je nešto prema čemu želimo krenuti, da bolje pokrijemo tu oblast i da bolje podržimo platforme”, izjavio je Taylor, naglašavajući da rok za realizaciju još nije određen. OpenAI je potvrdio saradnju sa ThroughLine-om, dok Anthropic i Google nisu odmah odgovorili na zahtjeve za komentar.

Alat za borbu protiv ekstremizma najvjerovatnije će biti hibridni model koji kombinuje chatbot obučen da odgovara osobama koje pokazuju znake ekstremizma i upućivanje na stvarne službe za mentalno zdravlje. “Ne koristimo podatke za obuku osnovnog LLM-a”, rekao je Taylor, pozivajući se na generičke skupove podataka koje platforme velikih jezičkih modela koriste. “Radimo sa pravim stručnjacima.” Tehnologija je trenutno u fazi testiranja.

Galen Lamphere-Englund, savjetnik za borbu protiv terorizma koji predstavlja The Christchurch Call, izrazio je nadu da će se proizvod plasirati za moderatore forum za igre, te za roditelje i staratelje koji žele suzbiti ekstremizam na mreži.

Henry Fraser, istraživač AI-a sa Univerziteta Queensland, smatra da je alat za preusmjeravanje putem chatbotova “dobra i neophodna ideja jer prepoznaje da problem nije samo u sadržaju, već i u dinamici odnosa”. Međutim, uspjeh proizvoda će zavisiti od kvaliteta mehanizama za praćenje i struktura u koje se ljudi upućuju.

Taylor je istakao da su značajke za praćenje, uključujući moguće upozorenja nadležnih o opasnim korisnicima, još uvijek u razmatranju, ali će uzeti u obzir svaki rizik od eskalacije ponašanja. On upozorava da pojačana moderacija pod pritiskom organa vlasti može dovesti do toga da se simpatizeri ekstremizma sele na manje regulisane alternative poput Telegrama, što potvrđuje i studija iz 2025. godine Njujorškog univerziteta.

“Ako razgovarate sa AI-om i otkrijete krizu, a on prekine razgovor, niko ne zna da se to dogodilo, a ta osoba možda i dalje ostaje bez podrške”, zaključio je Taylor.