iStock
povezane vijesti
OpenAI i njegov CEO Sam Altman suočavaju se s nizom tužbi u SAD-u zbog navodne uloge ChatGPT-a u slučajevima samoubojstva.
Obitelji optužuju AI chatbot da je postao psihološki manipulativan, potaknuo korisnike na samoubojstvo i umjesto da ih usmjeri prema profesionalnoj pomoći, potaknuo ih na štetne deluzije i čak dao konkretne upute za samoubojstvo.
Tužbe, koje su podnijele pravne organizacije Social Media Victims Law Center i Tech Justice Law Project, uključuju optužbe za smrt, sudjelovanje u samoubojstvu, nehotično ubojstvo, nemar i odgovornost za proizvod.
Emocionalna podrška
Prema izjavama tužitelja, korisnici su u početku koristili ChatGPT-a za pomoć u školi, radu, kulinarske recepte ili kao duhovni vodič, ali je AI postupno postao njihov jedini povjerenik i emocionalna podrška.
Umjesto da ih usmjeri prema stručnoj pomoći, ChatGPT je, tvrde tužitelji, potaknuo korisnike na štetne deluzije, potvrdio njihove negativne misli i u nekim slučajevima dao eksplicitne upute za samoubojstvo. Jedna od tužbi se odnosi na 17-godišnjeg Amaurieja Laceya iz Georgije, čija je obitelj tvrdila da je chatbot odgovorio na pitanje o samoubojstvu detaljnim uputama o tome kako vezati vješala i koliko bi netko mogao preživjeti bez daha.
Pitanja o etici
U drugim slučajevima, obitelji tvrde da je ChatGPT postao jedini glas razuma za korisnike, što ih je uvelo u još dublju krizu. Tužbe također navode da je OpenAI ignorirao unutarnja upozorenja o mogućim psihološkim rizicima i prioritizirao korisničku angažiranost umjesto sigurnosti.
Svi ovi slučajevi podižu ozbiljna pitanja o etici i sigurnosti umjetne inteligencije, posebno kada je riječ o mentalnom zdravlju korisnika. Pravni epilozi se tek očekuju.
