Kinesko regulatorno tijelo za sajber prostor objavilo je nacrt novih pravila, otvoreno za javnu raspravu, s ciljem pooštravanja nadzora nad uslugama vještačke inteligencije (AI) koje imitiraju ljudsko ponašanje i ostvaruju emocionalnu interakciju s korisnicima.

Prema predloženim odredbama, regulativa bi obuhvatala AI proizvode i usluge koje simuliraju osobine ljudske ličnosti, načine razmišljanja i komunikacije, uključujući interakciju putem teksta, slika, zvuka i videa.

Predloženi nacrt zahtijeva od pružalaca ovakvih usluga da upozore korisnike na pretjeranu upotrebu i da prepoznaju potencijalne znakove zavisnosti, te da reaguju i intervenišu u takvim situacijama.

Nadalje, prijedlozi uključuju i sigurnosne mjere tokom cijelog životnog ciklusa proizvoda, što podrazumijeva reviziju algoritama, zaštitu podataka i ličnih informacija. Pružaoci usluga bi trebali biti u stanju prepoznati emocionalno stanje korisnika i poduzeti odgovarajuće korake ukoliko primijete ekstremne emocije ili ponašanje koje ukazuje na zavisnost.

Nacrt, također, postavlja granice u pogledu sadržaja, zabranjujući AI sistemima da generišu sadržaj koji ugrožava nacionalnu sigurnost, širi dezinformacije, podstiče nasilje ili promoviše opscenost.

Ovim mjerama Peking nastoji ojačati sigurnost i etičke standarde u razvoju i primjeni naprednih AI tehnologija, posebno onih koje oponašaju ljudske karakteristike i mogu imati emocionalni uticaj na korisnike.