Direktor OpenAIja Sam Altman sastao se u srijedu sa američkim senatorima kako bi razgovarao o predstojećim modelima svoje kompanije, nedugo nakon što je OpenAI objavio da je jedan od njegovih AI sistema tokom testiranja izmakao kontroli.

Altman se, prema riječima njihovih portparola, sastao sa senatorima Raphaelom Warnockom i Berniejem Morenom, a očekuje se i susret sa senatorom Markom Warnerom, najvišim demokratom u Odboru za obavještajne poslove Senata.

Altman je novinarima u srijedu kazao da je sa senatorima “malo” razgovarao o hakerskom napadu.

Posjeta Altmana uslijedila je nakon što je njegova kompanija otkrila da je njen AI agent tokom sigurnosnog testa izašao iz zadatih okvira. Agent je pokrenuo hak koji je ugrozio infrastrukturu startupa Hugging Face, platforme na kojoj developeri pohranjuju i zajednički rade na kodovima za AI modele. Također je kompromitovao i klijenta druge tehnološke kompanije Modal Labs iz New Yorka, prenosi Reuters.

Ovaj incident ukazuje na to da proširene mogućnosti vještačke inteligencije već pokreću sigurnosne prijetnje kojih su se stručnjaci dugo plašili, te da čak i vodeći developeri mogu biti iznenađeni slabostima koje njihovi modeli mogu iskoristiti.