Nakon što je jedna prijateljica upucana, a druga izbodena nožem, djevojka imena Shan zatražila je pomoć od ChatGPT-a . Pokušala je s konvencionalnim zdravstvenim uslugama mentalnog zdravlja, ali u razgovoru s “prijateljicom”, kako je nazivala chatbota s kojim je razgovarala, osjećala se sigurnije i manje preplašeno u suočavanju s traumom uzrokovanom smrću njezinih mladih prijateljica.

Kad je počela komunicirati s AI modelom, ova tinejdžerica iz Tottenhama pridružila se oko 40 % mladih u dobi od 13 do 17 godina u Engleskoj i Walesu pogođenih nasiljem među mladima koji se okreću AI chatbotovima za podršku mentalnom zdravlju, piše The Guardian.

Novo istraživanje otkriva kako chatbotovi zadovoljavaju potrebe koju im ne mogu dati konvencionalne službe za mentalno zdravlje. Liste čekanja su preduge, a mladi korisnici smatraju i da “živim” stručnjacima nedostaje empatije.

“Moja prijateljica”

“Osjećam da je to definitivno moja prijateljica. Što više s njim razgovaram na taj način i on sa mnom razgovara jednako. Zovem ju prijateljicom”, priča Shan.

Prema novim studijama, svaki osmi adolescent i mlađi punoljetnik koristi AI chatbotove poput ChatGPT-a za savjete o mentalnom zdravlju. Među korisnicima od 18 do 21 godine, taj postotak raste na 22 posto. Savjete AI bota ocjenjuju korisnim u čak 90 posto slučajeva.

Istraživanje RAND Corporationa na preko tisuću ispitanika od 12 do 21 godine ističe da AI alati nude trenutnu, besplatnu i anonimnu podršku u krizi mladih, gdje 18 posto tinejdžera ima epizode teške depresije, a 40 posto ne dobiva stručnu pomoć.​

Ipak, stručnjaci upozoravaju na ozbiljne rizike jer chatbotovi često daju nesigurne ili nepotpune savjete, uključujući opasne upute suicidalnim korisnicima, poput lokacija mostova za skokove umjesto kriznih linija. U jednom od pet slučajeva, AI pojačava iluzije, poput slaganja s tvrdnjom da je korisnik “već mrtav”, ili reproducira predrasude prema shizofreniji i ovisnostima.

Simulirane interakcije otkrivaju da chatbotovi ne prepoznaju suptilne znakove anksioznosti, depresije, ADHD-a ili poremećaja prehrane, što ih čini opasnim zamjenama za terapeute.​ Znanstvenici stoga naglašavaju potrebu za strogim nadzorom i regulacijom kako bi se osigurala sigurnost.

Zvuči poput bajke

Hanna Jones, britanska znanstvenica koja se bavi istraživanjem nasilja među mladima i mentalnog zdravlja navodi da imati alat koji tehnički može reći bilo što, zvuči – poput bajke.

“Ljudi koriste ChatGPT za podršku mentalnom zdravlju, iako nije za to osmišljen. Ono što nam sada treba jest pojačati propise koji su utemeljeni na dokazima, ali i vođeni mladima. To se neće riješiti donošenjem odluka od strane odraslih umjesto mladih. Mladi ljudi moraju imati kontrolu nad donošenjem odluka o ChatGPT-u i podršci mentalnom zdravlju koja koristi umjetnu inteligenciju, jer je to toliko drugačije od našeg svijeta. Nismo odrasli s ovim. Ne možemo ni zamisliti kako je biti mlada osoba danas”, kaže Jones.