Specijalizovana agencija UN-a za digitalne tehnologije objavila je u četvrtak novi projekat koji ima za cilj povećanje povjerenja u agente vještačke inteligencije, s obzirom na rastuću zabrinutost zbog odgovornosti i ljudskog nadzora nad sve autonomnijim AI sistemima.

Agenti vještačke inteligencije predstavljaju novu generaciju AI sistema koji su programirani da samostalno djeluju u ime korisnika, obavljajući zadatke od zakazivanja sastanaka i kupovine pa sve do složenih poslovnih procesa.

Iako mogu unaprijediti produktivnost, ITU upozorava da postoji rizik da ovi agenti oponašaju ljude i donose neovlaštene odluke, što može imati ozbiljne posljedice.

Kako bi se uhvatila u koštac s ovim rizicima, Međunarodna unija za telekomunikacije (ITU) saopćila je na samitu AI for Good u Ženevi da će formirati posebnu fokus grupu.

Ova fokus grupa će raditi na okvirima koji trebaju osigurati da AI agenti ostanu prepoznatljivi, pouzdani i pod stvarnom ljudskom kontrolom, posebno u osjetljivim područjima poput finansijskih transakcija i kritične infrastrukture.

Debora Comparin, kopredsjedavajuća fokus grupe, istakla je da će AI agenti uskoro u naše ime pregovarati, obavljati transakcije i donositi odluke, te da su potrebni zajednički međunarodni temelji kako bi se utvrdilo ko su ti agenti, na koji način i kada im se može vjerovati.

Fokus grupu će činiti stručnjaci iz tehničkih, političkih i pravnih oblasti, a prvi sastanak održat će se u Parisu u novembru, dok je drugi zakazan za januar u Ženevi.