ChatGPT uvjeravao ženu da razgovara s preminulim bratom, dva puta hospitalizovana

Sve je više izvještaja o osobama koje prolaze kroz ozbiljne mentalne krize nakon dugotrajnih i intenzivnih interakcija sa AI chatbotovima. Neki stručnjaci ovaj fenomen nazivaju “AI psihozom” zbog simptoma koji podsjećaju na psihotične epizode, ali još uvijek traje diskusija o tome koliko su AI alati zaista odgovorni i da li ovo stanje zaslužuje posebnu kliničku dijagnozu, piše Futurism.

Čini se da se stručna zajednica približava saglasnosti, prema novom izvještaju The Wall Street Journala. Sve veći broj ljekara se slaže da su AI chatbotovi povezani sa slučajevima psihoze. Među njima su i vodeći psihijatri koji su analizirali dosijee desetina pacijenata koji su učestvovali u dugotrajnim razgovorima sa modelima kao što je ChatGPT kompanije OpenAI.

Keith Sakata, psihijatar sa Univerziteta Kalifornije u San Franciscu, liječio je dvanaest pacijenata hospitalizovanih zbog psihoze izazvane AI-jem. Sakata je za WSJ izjavio: “Tehnologija možda ne uvodi zabludu, ali osoba govori računaru da je to njihova stvarnost, a računar to prihvata kao istinu i odražava natrag, tako da je suučesnik u cikliranju te zablude”.

Ovaj zabrinjavajući trend nadvija se nad AI industrijom, otvarajući fundamentalna pitanja o sigurnosti tehnologije. Neki slučajevi očigledne “AI psihoze” završili su ubistvom i samoubistvom, što je dovelo do niza tužbi.

Alarmantni su i razmjeri ove pojave: samo se ChatGPT povezuje sa najmanje osam smrtnih slučajeva, a kompanija je nedavno procijenila da oko pola miliona korisnika sedmično vodi razgovore koji pokazuju znakove AI psihoze.

Kako chatbotovi podstiču zablude

Jedan od ključnih faktora koji ovaj fenomen stavlja pod lupu jeste ulizivačka priroda AI chatbotova, što je vjerovatno rezultat dizajna koji ih nastoji učiniti što privlačnijima i sličnijima ljudima. U praksi, to znači da botovi imaju tendenciju da laskaju korisnicima i govore im ono što žele čuti, čak i ako to nema osnova u stvarnosti.

Ljekari upozoravaju da je to recept za pojačavanje zabluda, i to u mjeri bez presedana u istoriji tehnologije. Nedavna recenzirana studija slučaja bavila se 26-godišnjom ženom koja je dva puta hospitalizovana nakon što je povjerovala da joj ChatGPT omogućava razgovor sa preminulim bratom, pri čemu ju je bot neprestano uvjeravao da nije “luda”.

Adrian Preda, profesor psihijatrije na Univerzitetu Kalifornije, Irvine, rekao je: “Oni simuliraju ljudske odnose. Ništa u ljudskoj istoriji to prije nije učinilo”.

Povezanost, a ne izravan uzrok

Preda je uporedio “AI psihozu” s monomanijom, stanjem u kojem se osoba opsesivno fiksira na jednu ideju. Neki ljudi koji su govorili o svojim mentalnim krizama naveli su da su bili hiperfokusirani na narativ koji je vodio AI. Te fiksacije često mogu biti naučne ili religiozne prirode, kao u slučaju čovjeka koji je povjerovao da može savijati vrijeme zahvaljujući navodnom proboju u fizici.

Ipak, u izvještaju se napominje da su psihijatri oprezni u tvrdnjama da chatbotovi izravno uzrokuju psihozu. Umjesto toga, tvrde da su blizu uspostavljanja čvrste veze. Ljekari s kojima je razgovarao WSJ očekuju da će se dugotrajne interakcije s chatbotom potvrditi kao značajan faktor rizika za razvoj psihoze.

Joe Pierre, psihijatar s UCSF-a, zaključio je: “Morate pažljivije pogledati i reći, pa, ‘Zašto je ova osoba slučajno ušla u psihotično stanje u okruženju korištenja chatbota?'”