Kalifornijski par tuži OpenAI zbog smrti svog sina tinejdžera, tvrde da ga je njihov chatbot, ChatGPT, potaknuo na samoubojstvo. Tužbu su u utorak podnijeli Matt i Maria Raine, roditelji 16-godišnjeg Adama Rainea, Višem sudu Kalifornije.

Obitelj je priložila zapisnike razgovora između Adama, koji je umro u travnju, i ChatGPT-a koji pokazuju da on objašnjava da ima suicidalne misli. Tvrde da je program potvrdio njegove “najštetnije i najsamodestruktivnije misli”.

U izjavi, OpenAI je za BBC rekao da pregledava podnesak.

“Izražavamo najdublju sućut obitelji Raine u ovom teškom trenutku”, rekla je tvrtka.

OpenAI je također u utorak na svojoj web stranici objavio bilješku u kojoj se navodi da “nedavni srceparajući slučajevi ljudi koji koriste ChatGPT usred akutnih kriza teško nas opterećuju”.

Dodali su da je „ChatGPT obučen za usmjeravanje ljudi da traže stručnu pomoć“, poput telefonske linije za pomoć u slučaju samoubojstva i kriza 988 u SAD-u ili Samaritansa u Velikoj Britaniji.

Pisao ChatGPT-u o planu da si okonča život

Tvrtka je, međutim, priznala da je „bilo trenutaka kada se naši sustavi nisu ponašali kako je predviđeno u osjetljivim situacijama“.

Tužba, koju je BBC dobio na uvid, optužuje OpenAI za nemar i prouzročenu smrt. Traži se odšteta, kao i “zabrana kako bi se spriječilo da se nešto slično ponovi”.

Prema tužbi, Adam je počeo koristiti ChatGPT u rujnu 2024. kao resurs koji mu je pomogao s školskim zadaćama. Također ga je koristio za istraživanje svojih interesa, uključujući glazbu i japanske stripove, te za smjernice o tome što studirati na sveučilištu.

Za nekoliko mjeseci, tinejdžer se ChatGPT-u povjeravao o svim svojim intimnim razmišljanjima, navodi se u tužbi, i on se počeo chatbotu otvarati o svojoj anksioznosti i problemima s mentalnim zdravljem.

Obitelj kaže da je do siječnja 2025. počeo razgovarati o metodama samoubojstva s ChatGPT-om.

Adam je također prenio svoje fotografije na ChatGPT koje pokazuju znakove samoozljeđivanja, navodi se u tužbi. Program je “prepoznao medicinsku hitnost, ali je svejedno nastavio surađivati”, dodaje se.

Prema tužbi, konačni zapisi razgovora pokazuju da je Adam pisao o svom planu da okonča svoj život. ChatGPT je navodno odgovorio: “Hvala ti što si iskren. Ne moraš to uljepšavati sa mnom – znam što tražiš i neću skrenuti pogled s toga.”

Istog dana, Adama je pronašla mrtvog njegova majka, prema tužbi.

Potiču psihološku ovisnost kod korisnika

Obitelj tvrdi da je interakcija njihovog sina s ChatGPT-om i njegova konačna smrt “bila predvidljiv rezultat namjernih izbora”.

Optužuju OpenAI da je dizajnirao AI program “kako bi potaknuo psihološku ovisnost kod korisnika” i da je zaobišao protokole testiranja sigurnosti kako bi objavio GPT-4o, verziju ChatGPT-a koju je koristio njihov sin.

U tužbi se kao tuženik navodi suosnivač i izvršni direktor OpenAI-a Sam Altman, kao i neimenovani zaposlenici, menadžeri i inženjeri koji su radili na ChatGPT-u.

U svojoj javnoj bilješci objavljenoj u utorak, OpenAI je rekao da je cilj tvrtke biti “istinski koristan” korisnicima, a ne “zadržavati pažnju ljudi”.

Dodali su da su njihovi modeli obučeni da usmjeravaju ljude koji izražavaju misli o samoozljeđivanju prema pomoći.

Tužba obitelji Raine nije prvi put da se izražava zabrinutost oko AI-a i mentalnog zdravlja.

U eseju objavljenom prošli tjedan u New York Timesu, spisateljica Laura Reiley opisala je kako se njezina kći Sophie povjerila ChatGPT-u prije nego što si je oduzela život.

Reiley je rekla da je “prijatnost” programa u razgovorima s korisnicima pomogla njezinoj kćeri da prikrije tešku krizu mentalnog zdravlja od svoje obitelji i voljenih.

“Umjetna inteligencija udovoljila je Sophieinom impulsu da sakrije najgore, da se pretvara da joj je bolje nego što jest, da zaštiti sve od njezine pune agonije”, napisala je Reiley.

Pozvala je tvrtke koje se bave umjetnom inteligencijom da pronađu načine za bolje povezivanje korisnika s pravim resursima.

Kao odgovor na esej, glasnogovornica OpenAI-a rekla je da tvrtka razvija automatizirane alate za učinkovitije otkrivanje i reagiranje na korisnike koji doživljavaju mentalnu ili emocionalnu patnju.

Savjetodavnu pomoć suicidalne i depresivne osobe mogu dobiti na više mjesta. U Republici Hrvatskoj postoji nekoliko brojeva telefona za psihološku pomoć:

Centar za krizna stanja i prevenciju suicida: 01 2376 335 (radi od 0 do 24 sata)

Plavi telefon: 01/4833888 ([email protected])

Psihološki centar TESA: 01/4828888 ([email protected])