Kompanija OpenAI je najavila niz mjera za jačanje sigurnosnih protokola, uključujući uspostavljanje direktne veze sa kanadskim organima reda i poboljšanje detekcije ponovnih prekršilaca politike o nasilnim aktivnostima. Ove koraci slijede nakon nedavne pucnjave u školi u kanadskoj provinciji Britanska Kolumbija, gdje je osumnjičeni koristio njihovu platformu.

U pismu upućenom kanadskom ministru zaduženom za umjetnu inteligenciju, Evanu Solomonu, potpredsjednica OpenAI-a za globalnu politiku, Ann O'Leary, detaljno je opisala planirane akcije. Ovo je odgovor na zahtjev kanadskih ministara da kompanija hitno pojača sigurnosne mjere, uz upozorenje da će Ottawa, ako potrebno, provesti promjene kroz zakonodavstvo.

Poboljšana saradnja sa policijom

“Ostajemo posvećeni saradnji sa organima reda na istrazi tragedije u Tumbler Ridgeu i posvećeni smo trajnom partnerstvu sa saveznom i pokrajinskim vladama”, izjavila je O'Leary, pozivajući se na grad u Britanskoj Kolumbiji gdje se dogodila pucnjava. Kompanija je obećala da će, u okviru “poboljšanog protokola za upućivanje organima reda”, sada prijavljivati policiji slučajeve poput početne zabrane računa koja je zabilježena u junu prošle godine.

Kanadska vlada je pozvala sigurnosni tim OpenAI-a na razgovore nakon što je kompanija priznala da nije kontaktirala policiju u vezi sa računom koji je pripadao osumnjičenoj za pucnjavu, Jesse Van Rootselaar, a koji je bio blokiran. Van Rootselaar (18) je osumnjičena za ubistvo osam ljudi 10. februara prije nego što je oduzela sebi život. OpenAI je potvrdio da je njen ChatGPT račun zabranjen 2025. godine zbog kršenja politike.

Unaprijeđeni sistemi detekcije

Kompanija je istakla da će ojačati svoje sisteme za otkrivanje kako bi bolje spriječili pokušaje zaobilaženja zaštitnih mjera i dali prioritet identifikaciji prestupnika s najvećim rizikom. Također su se obavezali na periodičnu procjenu pragova koje koriste njihovi automatizovani sistemi za identifikaciju potencijalnih nasilnih aktivnosti korisnika.

Iako stručnjaci za kriminal ističu da je veća kontrola AI platformi i društvenih mreža neophodna, policija ili drugi organi možda su propustili dodatne šanse da spriječe jednu od najgorih masovnih ubistava u Kanadi. Policija je navela da je Van Rootselaar imala istoriju problema sa mentalnim zdravljem i da su oružje uklonili, a kasnije vratili iz njenog doma.