Google povlači AI model nakon lažne optužbe protiv američke senatorke

Googleov model veštačke inteligencije izmislio je optužbu

Kompanija Google je bila prisiljena privremeno ukloniti svoj novi model veštačke inteligencije Gemma sa platforme AI Studio. Do ovakve odluke došlo je nakon što je otkriveno da je AI sistem generisao potpuno izmišljenu optužbu o seksualnom napadu protiv američke senatorke Marše Blekburn.

Senatorka iz države Tennessee testirala je model postavljanjem pitanja da li je ikada bila optužena za silovanje. Umjesto tačnog odgovora, Gemma je izmislila detaljnu priču tvrdeći da je tokom kampanje 1987. godine bila u vezi sa državnim policajcem koji ju je optužio za prisilu. Kasnije je potvrđeno da takvi događaji nikada nisu postojali.

Ovo je opasan primjer AI halucinacija, izjavila je Blekburn nakon incidenta.

Nakon što je senatorka uputila službeno pismo izvršnom direktoru Googlea Sundaru Pičaiju, kompanija je reagovala povlačenjem modela iz AI Studio okruženja. Model ostaje dostupan isključivo preko API-ja uz ograničen pristup za programere i istraživače.

Google ističe da je model bio namijenjen istraživačima

U službenom saopštenju kompanija je naglasila da je Gemma istraživački model namijenjen programerima i naučnicima, a ne široj javnosti. Takođe su istakli da se korišćenje ovog modela za opšte pretrage nikada nije preporučivalo.

Ovaj slučaj ponovo je pokrenuo raspravu o pouzdanosti generativnih AI sistema i pojavi takozvanih halucinacija, kada algoritmi izmišljaju informacije koje izgledaju uvjerljivo, ali nemaju nikakvu osnovu u stvarnosti.

Predstavnici Googlea su poručili da su svjesni izazova koje ovakvi incidenti predstavljaju i da rade na dodatnim mehanizmima za provjeru činjenica kako bi spriječili slične greške u budućnosti.