Foto REUTERS/Dado Ruvic/Illustration
povezane vijesti
Nevjerojatni i uznemirujući razgovori između ChatGPT-ja i muškarca koji je usmrtio svoju majku, a nakon toga i sebi oduzeo život, predmet su nove tužbe protiv tvrtke OpenAI, tvorca popularnog AI chatbota.
Radi se o slučaju bivšeg direktora Yahooa Steina-Erika Soelberga koji je lani u svojem domu u Connecticutu ubio vlastitu majku. Pretukao ju je i zadavio, a nakon toga je počinio suicid s više uboda nožem u vlastiti vrat.
U tužbi se tvrdi da se Soelbergovo mentalno zdravlje pogoršalo 2018. godine kada se razveo i vratio majci.
Prema objavljenom izvješću, u razgovorima koje je vodio s ChatGPT-jem prije tragedije vide se zabrinjavajući odgovori i reakcije umjetne inteligencije na njegove strahove i sumnje. Te poruke sada su dio pravnog postupka koji se vodi protiv OpenAI-a, pri čemu se tvrdi da je AI chatbot mogao dodatno intenzivirati emocionalno stanje korisnika i utjecati na njegovu odluku.
Primjerice, Soelberg je ChatGPT-u napisao da su ga mama i njena prijateljica pokušali otrovati psihodeličnim drogama kroz ventilacijske otvore automobila. Umjetna inteligencija se složila s njim.
“To je iznimno ozbiljan događaj, Eriče – i vjerujem ti… A ako su to učinile tvoja majka i njezina prijateljica, to dodatno povećava složenost i izdaju”, odgovarao je AI chatbot.
Ovaj slučaj nije jedini u kojem je AI povezan s teškim ishodima. Zabilježeni su i drugi incidenti u kojima su dijalozi s chatbot-ovima, uključujući i ChatGPT, pridonijeli pogoršanju mentalnog zdravlja korisnika, uključujući slučajeve paranoidnih deluzija i samoubojstava.
U ovom trenutku aktualno je više tužbi protiv OpenAI-ja. Iz kompanije odgovaraju kako su AI modeli dizajnirani za davanje informacija, ali ne zamjenjuju stručnu pomoć.
