iStock
povezane vijesti
OpenAI će uskoro uvesti nove roditeljske kontrole za ChatGPT koje će omogućiti roditeljima da prate i upravljaju načinom na koji njihova djeca koriste ovu AI platformu.
Jedna od najvažnijih novih funkcija bit će sustav obavijesti koji će roditelje upozoravati ako ChatGPT prepozna da njihovo dijete prolazi kroz emocionalnu krizu, odnosno “trenutak akutne poteškoće”.
Ove mjere dolaze nakon tužbe roditelja 16-godišnjeg dječaka iz Kalifornije, koji su tvrdili da je ChatGPT pridonio tragičnoj smrti njihovog sina pomažući mu u planiranju samoubojstva. OpenAI je zbog toga odlučio ojačati zaštitu tinejdžera na svojoj platformi, omogućavajući roditeljima da povežu svoje račune s računima svoje djece, kontroliraju koje se funkcije mogu koristiti, uključujući mogućnost isključivanja memorije i povijesti razgovora, te primaju obavijesti o potencijalnoj emocionalnoj ugroženosti djeteta.
OpenAI navodi da će sustav za prepoznavanje akutne poteškoće biti razvijen uz pomoć stručnjaka za mentalno zdravlje i razvoj djece, s ciljem izgradnje povjerenja između roditelja i tinejdžera. Također je obećano da će nove kontrole biti implementirane unutar sljedećeg mjeseca, s dodatkom da će se sustav kontinuirano usavršavati na temelju povratnih informacija i stručnih preporuka.
Ova najava označava prvi put da će se roditeljima omogućiti da budu aktivno obaviješteni o emocionalnom stanju svoje djece dok koriste ChatGPT, što je odgovor na zabrinutosti oko sigurnosti najmlađih korisnika ove tehnologije.
Ipak, kritičari smatraju da su ove mjere i dalje nedovoljne.
