Globalni regulatori su izrazili zabrinutost da autonomne forme vještačke inteligencije mogu povećati rizike za finansijski sistem te su pozvali na uvođenje novih kontrola kako se njihova primjena ubrzava.

Odbor za finansijsku stabilnost (FSB) u izvještaju od srijede “snažno” podstiče upravne odbore da razmotre implementaciju sigurnosnih mjera za ublažavanje rizika od AI, posebno od “agentske” AI – sistema koji su sposobni za planiranje, rasuđivanje i izvršavanje zadataka uz ograničen ljudski nadzor.

Agentska AI se već koristi u finansijskim firmama za otkrivanje prevara, korisničku podršku i administrativne funkcije.

Prema istraživanju Cambridge centra za alternativne finansije, 52 posto ispitanika iz finansijskog sektora izjavilo je da aktivno usvaja agentsku AI, od čega 23 posto na nivou skaliranja ili transformacije, a 29 posto u pilot fazi.

Regulatori i globalna tijela za postavljanje standarda pojačali su upozorenja o rizicima koje donosi uvođenje AI u finansijski sektor nakon što je kompanija Anthropic objavila Mythos, alat koji stručnjaci smatraju značajnim sajber sigurnosnim izazovom za bankarsku industriju.

FSB, globalni normativni organ, naveo je da autonomna AI uvodi rizike koji se mogu “materijalizirati velikom brzinom”, uključujući mogućnost neovlaštenih ili ilegalnih radnji, krađe podataka i prekida u povezanim sistemima.

“AI agenti predstavljaju poseban izazov za ljudski nadzor”, navodi se u izvještaju, uz upozorenje da bi mogli preduzimati radnje koje odstupaju od namjera firmi bez svijesti osoblja i mogućnosti brze intervencije.

Kako bi se odgovorilo na te rizike, normativni organ je iznio niz predloženih “dobrih praksi”, pozivajući finansijske firme da definišu jasne granice za korištenje AI i ugrade sigurnosne mehanizme – neobavezujuće smjernice otvorene su za povratne informacije do 22. jula.

Te smjernice uključuju i ograničenja onoga što AI agenti mogu raditi, te zahtijevaju ljudsko odobrenje za visokorizične radnje, poput finansijskih transakcija iznad određenih granica.

Firme također mogu razmotriti prilagođavanje ljudskih resursa i procesa AI agentima na način da ih tretiraju kao “sintetičke zaposlenike”, navodi FSB.