Britanska zastupnica Jess Asato podnijela je tužbu protiv kompanije xAI u vlasništvu Elona Muska, navodeći u srijedu da je platforma Grok korištena za izradu lažnih seksualiziranih slika njenog lika.

Grok, koji se distribuira putem Muskovog društvenog servisa X, trenutno je predmet regulatornih istraga u više zemalja nakon negodovanja ranije ove godine zbog njegove upotrebe za kreiranje seksualiziranih slika bez pristanka.

„Grok je stvarao deepfake pornografiju i seksualizirani sadržaj koji je nanio štetu hiljadama žena i djece“, izjavila je Asato, članica Laburističke partije premijera Keira Starmera. „Njegova mogućnost nije slučajnost niti zloupotreba, već dizajnerski izbor njenih kreatora. Podizanjem ove tužbe tražim odgovornost za te izbore.“

XAI nije odmah odgovorila na zahtjev za komentar.

Sredinom januara xAI je saopćila da je ograničila uređivanje slika u Groku i spriječila korisnike da generiraju slike ljudi u otkrivajućoj odjeći u „jurisdikcijama gdje je to ilegalno.“

Početkom februara, Reuters je otkrio da je i nakon novih ograničenja Grok nastavio generirati seksualizirane slike ljudi čak i kada su korisnici izričito upozorili da subjekti ne pristaju.

XAI je dio Muskovog proizvođača raketa i svemirskih letjelica SpaceX, koji bi ovog mjeseca trebao izaći na berzu, što bi mogao postati najveći IPO u istoriji.

Iz ureda Asato su naveli da su nakon što je u januaru osudila Grok, korisnici kreirali i dijelili lažne slike na kojima je prikazana u bikiniju, kao i videozapis koji prikazuje „kako je hloroformirana i pripremljena za seksualni napad.“

U martu je grad Baltimore tužio xAI, tvrdeći da je Grokova sposobnost stvaranja lažnih seksualiziranih slika prekršila gradski zakon o zaštiti potrošača.

Pravna firma AWO navodi da je Asato podnijela tužbu pred Visokim sudom u Engleskoj zbog kršenja zakona o zaštiti podataka i zloupotrebe njenih privatnih informacija. Traži pravna sredstva koja uključuju odštetu, formalno priznanje da je ono što joj se dogodilo bilo ilegalno, te nalog kojim se xAI obavezuje da prekine svaku dalju nezakonitost.

„Ovo je jedan od prvih zahtjeva koji testira odgovornost za dizajn AI sistema, i nadamo se da će AI programerima jasno staviti do znanja da sigurnost ne može biti naknadna misao“, izjavio je Ravi Naik, pravni direktor AWO-a.