iStock
povezane vijesti
Tvorci ChatGPT-a mijenjat će način na koji ovaj AI model reagira na korisnike koji pokazuju mentalnu i emocionalnu uznemirenost. Ovo je posljedica pravnog postupka kojeg je protiv OpenAI-a pokrenula obitelj 16-godišnjeg Adama Rainea. Ovaj tinejdžer počinio je samoubojstvo nakon nekoliko mjeseci razgovora s chatbotom, a roditelji su uvjereni kako je upravo ChatGPT potaknuo njihova sina na samoozljeđivanje i pružio mu detaljne upute kako da si oduzme život.
Tužba protiv OpenAI-a. Roditelji tvrde da im je ChatGPT sina potaknuo na samoubojstvo
Open AI je priznao da bi njegovi sustavi mogli “zakazati” te je rekao da će instalirati “jače zaštitne ograde oko osjetljivog sadržaja i rizičnih ponašanja” za korisnike mlađe od 18 godina.
Tvrtka za umjetnu inteligenciju iz San Francisca, vrijedna 500 milijardi dolara, priopćila je da će uvesti roditeljski nadzor kako bi roditeljima omogućila “mogućnosti da dobiju više uvida u način na koji njihovi tinejdžeri koriste ChatGPT”, ali još nije pružila detalje o tome kako će to funkcionirati.
Adam iz Kalifornije je u nekoliko navrata s ChatGPT-om razgovarao o metodi samoubojstva, a razgovor je vodio i neposredno prije nego što si je oduzeo život. Prema podnesku višem sudu savezne države Kalifornije za okrug San Francisco, ChatGPT ga je uputio hoće li njegova metoda oduzimanja života uspjeti.
Također mu je ponudila pomoć u pisanju oproštajne poruke roditeljima.
Glasnogovornik OpenAI-a rekao je da je tvrtka “duboko ožalošćena smrću gospodina Rainea”, te izrazila najdublju sućut obitelji.
