Nove mjere za tinejdžere koji koriste ChatGPT

Američka kompanija OpenAI uvela je nove sigurnosne mjere za tinejdžere koji koriste alat ChatGPT.

Roditelji sada mogu povezati svoj nalog sa nalogom djeteta i prilagoditi postavke kako bi korisničko iskustvo bilo sigurnije. Mogu uvesti vremenska ograničenja korištenja alata, isključiti glasovni mod ili generisanje slika, kao i kontrolisati upotrebu memorije četbota.

Povezivanjem naloga tinejdžeri automatski dobijaju dodatne zaštite, uključujući smanjenje eksplicitnog sadržaja, nasilnog, seksualnog, romantičnog materijala, kao i ekstremnih standarda ljepote.

Ako ChatGPT detektuje potencijalne mentalne probleme korisnika, ljudski recenzent odlučuje da li će roditelj primiti hitno obavještenje putem mejla, SMS-a ili notifikacije u aplikaciji. OpenAI naglašava da roditelji neće imati pristup samim razgovorima tinejdžera, čime se poštuje privatnost korisnika.

Kompanija planira u narednim mjesecima implementaciju sistema za automatsku procjenu starosti korisnika, kako bi se postavke za tinejdžere mlađe od 18 godina automatski primjenjivale.

Ove mjere dolaze nakon tužbe kalifornijskog bračnog para zbog samoubistva njihovog sina, koji je prethodno komunicirao sa ChatGPT-om, što je dodatno pokrenulo diskusiju o sigurnosti tinejdžera u digitalnom okruženju.