Porodice sedam stradalih u februarskoj pucnjavi u srednjoj školi u kanadskoj Britanskoj Kolumbiji podnijele su tužbe protiv kompanije OpenAI i njenog izvršnog direktora Sama Altmana, tvrdeći da je njihov chatbot ChatGPT pomogao napadaču u planiranju masakra.

U tužbama se navodi da su nasilne namjere osumnjičenog Jesseja Van Rootselaara (18) bile poznate OpenAI-ju.

Zaposlenici su prijavili njegov nalog osam mjeseci prije napada, ocijenivši da predstavlja vjerodostojnu prijetnju oružanim nasiljem, te su zatražili od rukovodstva da obavijesti kanadske vlasti, navodi se u dokumentima.

Kompanija je, umjesto uzbunjivanja policije, odlučila deaktivirati nalog, ali je napadač uspio otvoriti novi prateći vlastite objavljene upute OpenAI-ja za deaktivirane korisnike i nastavio koristiti ChatGPT za planiranje.

Van Rootselaar, osoba transrodnog identiteta, je 10. februara ubio majku i jedanaestogodišnjeg brata u porodičnoj kući, a potom se uputio u školu i otvorio vatru, pri čemu je ubio pet učenika i asistenta u nastavi, ranio još 27 osoba, a potom izvršio samoubistvo. Među žrtvama su bila djeca od 12 i 13 godina.

Porodice optužuju OpenAI i Altmana za nemar, pomaganje i podržavanje masovne pucnjave, nezakonito prouzrokovanje smrti te odgovornost za proizvod.

Glavni advokat Jay Edelson izjavio je za The Guardian: “Činjenica da su Sam i rukovodstvo nadglasali sigurnosni tim, a zatim su djeca umrla, odrasli umrli, cijeli grad je bio uništen, prilično je blizu definiciji zla za mene.”

Altman je 23. aprila uputio pismo zajednici Tumbler Ridgea u kojem se izvinjava što nije obavijestio kanadsku policiju.

“Iako znam da riječi nikada ne mogu biti dovoljne, vjerujem da je izvinjenje neophodno”, napisao je.

Premijer Britanske Kolumbije David Eby nazvao je izvinjenje “krajnje nedovoljnim za razaranje naneseno porodicama Tumbler Ridgea”.

OpenAI je u saopćenju poručio da ima “nultu toleranciju” za korištenje svojih alata u pomaganju nasilja te da je već ojačao zaštitne mjere, dodajući da radi na obuci ChatGPT-a da prepozna granice kada razgovor pređe u prijetnje ili planiranje štete u stvarnom svijetu.