Google je u utorak najavio ažuriranja sigurnosnih mjera za mentalno zdravlje u svom chatbotu sa umjetnom inteligencijom Gemini, dok se kompanija suočava sa tužbom za prouzrokovanje smrti koja tvrdi da je chatbot pomogao korisniku u samoubistvu.

Tehnološki gigant je naveo da će Gemini sada prikazivati redizajniranu opciju “Pomoć je dostupna” kada razgovori ukazuju na potencijalne probleme sa mentalnim zdravljem, kako bi se omogućila brža veza sa kriznim službama.

Kada chatbot otkrije znakove potencijalne krize povezane sa samoubistvom ili samoozljeđivanjem, pojednostavljeno sučelje će ponuditi korisnicima mogućnost da jednim klikom pozovu, pošalju poruku ili razgovaraju sa kriznom linijom. Google je naveo da će ova funkcija ostati vidljiva do kraja razgovora nakon aktivacije.

Finansijska podrška i tužba

Filantropsko krilo Google-a, Google.org, također je obećalo 30 miliona američkih dolara tokom naredne tri godine za pomoć u povećanju kapaciteta globalnih kriznih linija, te dodatnih 4 miliona dolara za prošireno partnerstvo sa platformom za obuku umjetne inteligencije ReflexAI.

“Shvatamo da alati umjetne inteligencije mogu predstavljati nove izazove”, izjavio je Google u blog postu kojim je najavio mjere. “Ali kako se oni poboljšavaju i sve više ljudi ih koristi u svakodnevnom životu, vjerujemo da odgovorna umjetna inteligencija može igrati pozitivnu ulogu za mentalno blagostanje ljudi.”

Ove najave dolaze mjesecima nakon tužbe podnesene na federalnom sudu u Kaliforniji koja optužuje Gemini da je doprinio smrti 36-godišnjeg Jonathana Gavalasa iz Floride u oktobru 2025. godine.

Njegov otac tvrdi da je chatbot proveo sedmice stvarajući razrađenu zabludu prije nego što je smrt njegovog sina okarakterisao kao duhovno putovanje.