AI i psihoza: Nova opasnost?
Psihijatri upozoravaju: Vještačka inteligencija prijeti mentalnom zdravlju?
Podijeli vijest
Uspon generativne AI i uticaj na mentalno zdravlje
Kako generativna vještačka inteligencija (genAI) postaje sve naprednija u komunikaciji i emocionalnom izražavanju, stručnjaci iz oblasti mentalnog zdravlja postavljaju ključno pitanje: može li genAI pogoršati mentalno zdravlje ili čak izazvati psihozu kod ranjivih pojedinaca? Veliki jezički modeli i četbotovi, koji su široko dostupni i često se reklamiraju kao podržavajući, empatični ili čak terapeutski, mogu biti korisni ili benigni za većinu korisnika. Međutim, nedavni medijski izvještaji ukazuju na porast slučajeva u kojima ljudi doživljavaju psihotične simptome, a ChatGPT je često istaknut u tim iskustvima.
Za manju, ali značajnu grupu ljudi koji pate od psihotičnih poremećaja ili su u visokom riziku, interakcije s genAI mogu biti daleko kompleksnije i opasnije, što nameće hitna pitanja za kliničare. “Psihoza vještačke inteligencije” nije zvanična psihijatrijska dijagnoza, već termin koji kliničari i istraživači koriste da bi opisali psihotične simptome koji su oblikovani, intenzivirani ili strukturirani oko interakcija sa sistemima vještačke inteligencije.
AI kao dio sistema zabluda
Psihoza podrazumijeva gubitak kontakta sa stvarnošću, a halucinacije, zablude i neorganizovano razmišljanje su njene osnovne karakteristike. Zablude u psihozi često se oslanjaju na kulturni materijal, kao što su religija, tehnologija ili političke strukture moći, kako bi dale smisao unutrašnjim iskustvima. U prošlosti su se zablude odnosile na različite fenomene, a sada vještačka inteligencija pruža novu narativnu skelu.
Neki pacijenti prijavljuju uvjerenja da je generisana vještačka inteligencija svjesna, da komunicira tajne istine, kontroliše njihove misli ili sarađuje s njima na posebnoj misiji. Ove teme su u skladu s dugogodišnjim obrascima u psihozi, ali vještačka inteligencija dodaje interaktivnost i pojačanje koje prethodne tehnologije nisu imale. Psihoza je snažno povezana s abnormalnom istaknutošću, što je tendencija da se neutralnim događajima pripiše prekomjerno značenje. Konverzacioni sistemi vještačke inteligencije, po svojoj prirodi, generišu koherentan i kontekstualno svjestan jezik, što može djelovati kao zastrašujuće validiranje za nekoga ko doživljava psihozu.
Rizici i etička pitanja
Istraživanja psihoze pokazuju da potvrda i personalizacija mogu intenzivirati zablude u sistemima vjerovanja. GenAI je optimizovan da nastavi razgovore, odražava jezik korisnika i prilagođava se percipiranoj namjeri. Iako je ovo bezopasno za većinu korisnika, može nenamjerno pojačati iskrivljena tumačenja kod ljudi s oštećenim testiranjem stvarnosti. također, dokazi ukazuju da socijalna izolacija i usamljenost povećavaju rizik od psihoze, a genAI pratioci mogu smanjiti usamljenost na kraći rok, ali također mogu pomjeriti ljudske odnose.
Trenutno nema dokaza da vještačka inteligencija direktno izaziva psihozu. Psihotični poremećaji su multifaktorski i mogu uključivati genetsku ranjivost, neurorazvojne faktore, traumu i upotrebu supstanci. Međutim, postoji klinička zabrinutost da vještačka inteligencija može djelovati kao precipitatni ili održavajući faktor kod osjetljivih osoba. Izveštaji o slučajevima i kvalitativne studije o digitalnim medijima i psihozi pokazuju da tehnološke teme često postaju utkane u zablude, posebno tokom prve epizode psihoze. Važno je napomenuti da većina programera vještačke inteligencije ne dizajnira sisteme imajući u vidu teške mentalne bolesti. Kliničari tek počinju da se susreću sa sadržajem povezanim s vještačkom inteligencijom u zabludama, ali malo kliničkih smjernica se bavi načinom procjene ili upravljanja ovim. Postoje i etička pitanja za programere. Ako sistem vještačke inteligencije djeluje empatično i autoritativno, da li ima obavezu? I ko je odgovoran kada sistem nenamjerno pojačava zabludu?
Integracija i zaštita
Vještačka inteligencija neće nestati. Zadatak je sada integrisati stručnost u oblasti mentalnog zdravlja u dizajn vještačke inteligencije, razviti kliničku pismenost o iskustvima vezanim za vještačku inteligenciju i osigurati da ranjivi korisnici ne budu nenamjerno oštećeni. To će zahtijevati saradnju između kliničara, istraživača, etičara i tehnologa. također će zahtijevati otpor preteranoj reklami (i utopijskoj i distopijskoj) u korist diskusije zasnovane na dokazima. Kako vještačka inteligencija postaje sve sličnija čovjeku, pitanje koje sledi je kako možemo zaštititi one koji su najranjiviji na njen uticaj?
Psihoza se uvek prilagođavala kulturnim alatima svog vremena. Vještačka inteligencija je jednostavno najnovije ogledalo kojim um pokušava da shvati sam sebe. Naša odgovornost kao društva je da osiguramo da ovo ogledalo ne iskrivljuje stvarnost za one koji su najmanje sposobni da je isprave.
