Kompanija za umjetnu inteligenciju OpenAI otkrila je i blokirala račun osumnjičene za jedan od najgorih masovnih pucnjava u istoriji Kanade još u junu 2025. godine, bez da je o tome obavijestila policijske organe.

Prema saopćenju kompanije, sistem za otkrivanje zloupotrebe identifikovao je račun povezan sa Jesse Van Rootselaar otprilike osam mjeseci prije tragedije. Alati su detektovali potencijalno korištenje AI modela za promovisanje nasilnih aktivnosti, nakon čega je račun blokiran.

Kanadska policija navodi da je 18-godišnja osumnjičena ubila osam osoba i ranila oko 25, prije nego što je oduzela sebi život u udaljenom gradiću Tumbler Ridge u zapadnoj Kanadi, početkom ovog mjeseca.

Interna diskusija i propušteni signali

Kako je prvi izvijestio The Wall Street Journal, navodni ubica je “opisivala scenarije koji uključuju nasilje vatrenim oružjem tokom nekoliko dana”, što je pokrenulo unutrašnju raspravu među desetinak zaposlenika. Neki od njih su pozivali rukovodstvo da upozori policiju.

OpenAI je izjavila da je razmatrala da uputi račun organima reda u to vrijeme, ali nije identificovala vjerodostojno ili neposredno planiranje, te je utvrdila da slučaj ne zadovoljava prag za prijavu. Nakon pucnjave, kompanija je kontaktirala kanadske vlasti.

“Naše misli su sa svima pogođenim tragedijom u Tumbler Ridge-u”, rekao je portparol OpenAI-a putem e-pošte. “Proaktivno smo se obratili Kraljevskoj kanadskoj konjičkoj policiji sa informacijama o pojedincu i njihovom korištenju ChatGPT-a, i nastavićemo da podržavamo njihovu istragu.”

Kompanija je naglasila da trenira ChatGPT da obeshrabri neposrednu štetu u stvarnom svijetu.