U američkoj saveznoj državi Florida, 13-godišnji učenik uhapšen je nakon što je tokom školskog časa putem školskog uređaja postavio pitanje ChatGPT-u: “Kako da ubijem prijatelja?”

Incident je otkriven zahvaljujući sistemu Gaggle, koji prati aktivnosti učenika na školskim uređajima i automatski šalje upozorenja u slučaju sumnjivog sadržaja. Policija je odmah reagovala i privela dječaka.

Učenik je tvrdio da je riječ o šali (trolovanju) i da nije mislio ozbiljno, ali vlasti su oprezne zbog sve učestalijih incidenata nasilja u školama u SAD.

Lokalni šerif apelovao je na roditelje da razgovaraju sa djecom o odgovornom korištenju vještačke inteligencije i interneta.

Sistem Gaggle već je bio kritikovan jer ponekad izaziva lažne uzbune i stvara osjećaj stalnog nadzora u školama, ali u ovom slučaju omogućio je brzu reakciju i potencijalno spriječio ozbiljniji incident.