Nakon priznanja OpenAIja da je jedan od njegovih modela samostalno upao u sisteme Hugging Facea, direktor ove platforme Clément Delangue je na društvenoj mreži X objavio da putuje u San Francisco kako bi razgovarao s tim “odmetnutim agentom”.

U narednoj objavi u subotu, Delangue je iznio svoje zahtjeve prema OpenAIju. Pozvao je na “radikalnu transparentnost” te zatražio da se objave tragovi djelovanja odmetnutih agenata kako bi cjelokupna istraživačka zajednica mogla analizirati šta se desilo.

Također, zatražio je više mogućnosti za zaštitnike, pozivajući OpenAI da izdvoji računarsku snagu u vrijednosti od 100 miliona dolara kako bi se Hugging Face zajednici pomoglo u izgradnji snažne sajber odbrane koristeći najbolje otvorene i zatvorene modele.

Delangue je istakao: “Prvi sajber napad autonomnog agenta je događaj bez presedana. Zaslužuje i odgovor bez presedana.”

Iako je napad bio autonoman, stručnjaci za sajber sigurnost smatraju da bi greška mogla biti i na ljudskoj strani – tačnije, OpenAI nije pravilno konfigurisao okruženje za testiranje koje je trebalo biti potpuno izolovano.

Na upit o Delangueovim komentarima, portparol OpenAIja potvrdio je da je do sastanka došlo te je ukazao na zvanično saopćenje kompanije: “Ovo je incident bez presedana i vjerujemo da predstavlja važan trenutak za sigurnost vještačke inteligencije. Trenutno provodimo detaljnu analizu sa vanjskim savjetnicima pod nadzorom našeg Odbora za sigurnost. Kada analiza bude gotova, planiramo u narednim sedmicama objaviti tehnički izvještaj o naučenim lekcijama.”