Šefica odjela za robotiku i potrošački hardver u kompaniji OpenAI, Caitlin Kalinowski, podnijela je ostavku, izražavajući zabrinutost zbog sporazuma koji je firma sklopila sa američkim Ministarstvom odbrane.

Kalinowski je na društvenoj mreži X objavila da OpenAI nije dovoljno razmotrio posljedice prije nego što je pristao da svoje modele umjetne inteligencije implementira u tajne mreže Pentagona.

Pitanje nadzora i autonomije

“Umjetna inteligencija ima važnu ulogu u nacionalnoj sigurnosti,” napisala je Kalinowski. “Ali nadzor nad Amerikancima bez sudskog nadzora i smrtonosna autonomija bez ljudske autorizacije su granice koje su zaslužile više razmatranja nego što su dobile.”

Iako nije dostupna za komentar, Kalinowski je na X-u naglasila da ima “duboko poštovanje” prema izvršnom direktoru OpenAI-a Samu Altmanu i timu, ali je istakla da je kompanija najavila dogovor sa Pentagonom “bez definisanih zaštitnih mjera”.

“To je prije svega pitanje upravljanja,” dodala je u kasnijoj objavi. “Ovo su previše važne stvari da bi se dogovori ili najave žurili.”

Reakcija OpenAI-a

OpenAI je dan nakon sklapanja sporazuma izjavio da on uključuje dodatne sigurnosne mjere za zaštitu njegove upotrebe. Kompanija je 7. marta ponovila da njeni “crveni prahovi” isključuju upotrebu tehnologije u domaćem nadzoru ili autonomnom oružju.

“Prepoznajemo da ljudi imaju jake stavove o ovim pitanjima i nastavit ćemo da se uključujemo u raspravu sa zaposlenima, vladom, civilnim društvom i zajednicama širom svijeta,” stoji u saopćenju kompanije poslanom Reutersu.

Caitlin Kalinowski pridružila se OpenAI-u 2024. godine, nakon što je vodila razvoj hardvera za proširenu stvarnost u kompaniji Meta Platforms.