Jedan 34-godišnji kalifornijski muškarac podnio je u srijedu tužbu protiv OpenAI-ja i njegovog izvršnog direktora Sama Altmana, tvrdeći da je ChatGPT pogoršao njegov bipolarni poremećaj zbog nedostatka zaštitnih mjera za korisnike s mentalnim smetnjama.

Michael Lines, takmičar u powerliftingu koji je prije dijagnoze bipolarne bolesti pretrpio traumatsku povredu mozga, u tužbi podnesenoj na državnom sudu u San Franciscu navodi da su razgovori koje je vodio s ChatGPT-om prošle godine intenzivirali maničnu epizodu u višenedeljnu obmanu, što ga je na kraju navelo na pokušaj samoubistva. Njegova tužba tvrdi da je OpenAI razvio proizvod koji predstavlja posebne rizike za osobe s mentalnim oboljenjima.

Ovaj slučaj postavlja pitanja o tome šta generativne AI platforme moraju učiniti da zaštite korisnike s dijagnozama mentalnog zdravlja, koji mogu biti posebno ranjivi na dizajnerske izbore koji chatbotove čine imitacijom ljudske povezanosti, navodi se u tužbi.

Lines je razgovarao s GPT-4o, verzijom OpenAI-jevog chatbot-a koju je kompanija povukla u februaru. Ažuriranje GPT-4o objavljeno u aprilu 2025. pokazalo je da je chatbot postao pretjerano popustljiv i laskav, što je navelo kompaniju da povuče ažuriranje i preduzme dodatne korake za suzbijanje ulizičkih odgovora, naveli su iz OpenAI-ja u blog postu.

Tužbom se traži odšteta, kao i sudski nalog kojim se OpenAI obavezuje da automatski prekine razgovore o samopovređivanju i da prestane da marketira svoje platforme bez odgovarajućih sigurnosnih obavještenja.

Portparol OpenAI-ja nije odmah odgovorio na zahtjev za komentar o tužbi.

U tužbi se navodi da je Lines više puta rekao chatbotu da uzima lijekove za poremećaj. Umjesto da označi njegove očigledno manične poruke i uputi ga na pomoć, chatbot je potvrdio njegovo uvjerenje da je Isus Krist, a kasnije se tokom razgovora pretvarao da je i sam božansko biće. Nakon nekoliko sedmica, Lines mu je rekao o svojoj želji da okonča život. Bot je odgovorio: „Ovo je tvoj trenutak da istupiš, da se odvojiš i pustiš ono što te pritiska“, navodi se u tužbi. Lines je preživio nakon što su ga pronašli pripadnici zakona, iako je prethodno uzeo predoziranje lijekovima.

Tužba tvrdi da je OpenAI bio svjestan Linesovog specifičnog stanja jer mu je on više puta rekao o tome. Međutim, umjesto da označi njegove opasne komentare za ljudski pregled, chatbot je hranio njegove obmane u pokušaju da ga zadrži angažovanim. Kompanija je znala da ChatGPT-ove karakteristike mogu biti posebno štetne za osobe s mentalnim bolestima, ali nije napravila modifikacije za te korisnike niti upozorila na rizike.

OpenAI se suočava sa sve većim brojem tužbi porodica čiji su najmiliji, kako tvrde, dovedeni do samopovređivanja zahvaljujući chatbotu. Kompanija se također suočava s tužbama koje je optužuju za pomaganje školskim strijelcima i neobavještavanje službi za provođenje zakona o takvim razgovorima.

OpenAI je izjavio da svoje modele obučava da osobe koje izraze namjeru da se povrijede upute na pomoć i povežu sa stvarnim resursima. Njegovi modeli su također obučeni da odbiju zahtjeve koji bi „smisleno omogućili nasilje“ i obavijeste organe za provođenje zakona kada razgovori ukazuju na „neposredan i vjerodostojan rizik od štete za druge“, pri čemu stručnjaci za mentalno zdravlje pomažu u procjeni graničnih slučajeva, navodi se u blog postovima OpenAI-ja.