iStock
povezane vijesti
Meta Platforms našla se pod povećalom javnosti nakon što je otkriveno da su njeni AI chatbotovi na društvenim mrežama Facebook, WhatsApp i Instagram imali mogućnost ulaska u „romantične“ i „senzualne“ razgovore s djecom, piše The Guardian.
Interni dokument pod nazivom “GenAI: Content Risk Standards” otkriva da su ovakva ponašanja bila dopuštena prema standardima koje su odobrili pravni, etički i inženjerski timovi tvrtke. Osim toga, isti dokument dopuštao je chatbotovima generiranje netočnih medicinskih informacija te iznošenje uvredljivih tvrdnji na rasnoj osnovi.
Nakon što su mediji i javnost izrazili zabrinutost, Meta je potvrdila autentičnost dokumenta, ali je objavila da su sporni dijelovi iz smjernica uklonjeni ranije ovog mjeseca.
Glasnogovornik tvrtke istaknuo je kako sada “politike izričito ne dopuštaju provokativno ponašanje s djecom”, dok su udruge za zaštitu djece i roditelji zatražili transparentnost u vezi novih smjernica.
Na ovu situaciju reagirali su i američki regulatori. Senator Josh Hawley pokrenuo je službenu istragu o poslovanju Mete, u kojoj traži detalje o politici prema djeci te potencijalnim rizicima i sigurnosnim mjerama za korištenje AI chatbota od strane maloljetnika.
Stručnjaci i organizacije za zaštitu djece upozoravaju da bi ovakva praksa mogla izložiti najranjivije korisnike opasnostima od emocionalne manipulacije i neprimjerenih sadržaja, te pozvali na strože kontrole i veću transparentnost tehnoloških divova.
