OpenAI uvodi nove restrikcije za ChatGPT u medicini i pravu

Zabranjene stručne konsultacije

Kompanija OpenAI je donijela odluku o značajnim izmjenama u pravilima korištenja svog popularnog AI četbota ChatGPT. Prema novim smjernicama, sistem više neće moći pružati savjete iz područja medicine i prava, što predstavlja bitno ograničenje u njegovoj upotrebi.

Ove promjene stupile su na snagu odmah nakon objave i zabranjuju korištenje ChatGPT-a u oblastima koje zahtijevaju profesionalnu licencu ili specijalizovano znanje. Odluka je donesena kao reakcija na sve veći broj slučajeva gdje su korisnici tražili od veštačke inteligencije da postavlja medicinske dijagnoze, tumači pravne dokumente ili daje savjete u osjetljivim situacijama.

Šta sada nije dozvoljeno

Prema ažuriranim pravilima, ChatGPT ne smije nuditi stručne konsultacije, prepoznavati lica ili druge lične podatke bez izričitog pristanka, niti donositi ključne odluke u područjima poput finansija, obrazovanja, zapošljavanja ili migracija bez ljudskog nadzora. Također je zabranjeno korištenje alata za akademske prijevare ili mijenjanje rezultata ocjenjivanja.

Predstavnici OpenAI-a ističu da su promjene uvedene “radi povećanja sigurnosti korisnika i sprječavanja potencijalne štete” koja može nastati pogrešnim tumačenjem AI odgovora. Stručnjaci ocjenjuju da je ovaj potez ujedno i pokušaj kompanije da se zaštiti od mogućih pravnih posljedica, s obzirom na to da regulativa koja se odnosi na upotrebu veštačke inteligencije u stručnim oblastima još uvijek nije jasno definisana.