Kanadske vlasti pozvale su rukovodstvo kompanije OpenAI na hitni sastanak nakon što je otkriveno da je osumnjičeni za jednu od najgorih masovnih pucnjava u istoriji zemlje koristio ChatGPT, a kompanija je odlučila da neće obavijestiti policiju o njegovim upitima koji su ukazivali na nasilje.

Jesse Van Rootselaar (18) je, prema policiji, ubio šestoro djece i dvije odrasle osobe u udaljenom gradu Tumbler Ridge u Britanskoj Kolumbiji početkom februara, prije nego što je navodno izvršio samoubistvo. OpenAI je 20. februara potvrdio da je Van Rootselaarov račun na ChatGPT-u bio označen još u junu 2025. godine od strane sistema koji skeniraju zloupotrebe, uključujući potencijalno nasilno ponašanje.

Unutrašnja diskusija i propuštena prilika

Prema izvještajima, unutar kompanije se vodila diskusija među desetinak zaposlenih o tome da li da se korisnik prijavi policiji, nakon što je u toku nekoliko dana opisivao scenarije koji uključuju oružano nasilje. Ipak, OpenAI je zaključio da nije bilo vjerodostojne ili neposredne prijetnje te da slučaj ne zadovoljava prag za prijavu, nakon čega je račun jednostavno blokiran.

Kanadski ministar za umjetnu inteligenciju, Evan Solomon, nazvao je ove medijske izvještaje “duboko uznemirujućim” i istakao da oni sugerišu da kompanija “nije kontaktirala organe reda na vrijeme”. Solomon je najavio da će se visoki rukovodioci OpenAI-a za sigurnost sastati s njim u Ottawi.

Ministar je istaknuo da Kanada radi na zakonodavstvu koje se tiče privatnosti i takozvane internetske štete, te da će razgovarati s OpenAI-om o njihovim protokolima i metodologiji eskalacije prijetnji. “Naš posao i dužnost je da osiguramo da su Kanadani zaštićeni”, rekao je Solomon.