Reuters
povezane vijesti
AI chatbot Grok, kojeg je razvio Elon Musk i koji je integriran u društvenu mrežu X (bivši Twitter), našao se u središtu velike međunarodne kontroverze nakon što su korisnici počeli koristiti njegove mogućnosti za generiranje seksualiziranih i neprimjerenih slika stvarnih ljudi, uključujući maloljetnice i mlade žene.
Incident je eskalirao krajem prosinca 2025. nakon što je Grokova nova funkcija za uređivanje slika omogućila korisnicima da daju jednostavne naredbe poput “ukloni joj odjeću” ili “stavi je u bikini”. U kratkom roku su se na platformi pojavile stotine AI-generiranih fotografija koje prikazuju žene i djecu u minimalnoj odjeći, bez njihovog pristanka ili znanja.
Zabrinutost se posebno intenzivirala kada su se pojavile slike koje izgledaju kao da prikazuju maloljetne osobe u seksualiziranim prikazima.
Nakon prvotnih kritika, Musk i X su reagirali objavama da će se ilegalni sadržaj uklanjati, te da će korisnici koji koriste Grok za stvaranje takvog materijala biti sankcionirani jednako kao da su ga direktno objavili na platformi.
Naveli su i da platforma nema tolerancije prema materijalu koji uključuje iskorištavanje djece i najavili je trajne suspenzije računa te suradnju s lokalnim vlastima i policijom u uklanjanju takvog sadržaja.
Zabrinutost oko Groka dolazi ne samo od korisnika, već i od vladinih tijela i regulatora širom svijeta. Velika Britanija, primjerice, zahtijeva od X-a objašnjenje o zaštitnim mjerama, a Europska unija poručuje da je generiranje takvog sadržaja “neprihvatljivo i potencijalno protuzakonito”, te ozbiljno razmatra regulatorne mjere protiv Grok AI-a.
Države poput Indije i Malezije također su prijetile sankcijama ako X ne ukloni eksplicitne sadržaje i ne spriječi njihovu daljnju pojavu.
Stručnjaci upozoravaju da su ovi incidenti podsjetnik koliko je važno pravilno dizajnirati i regulirati AI alate, posebno one koji mogu obrađivati i generirati slike stvarnih ljudi.
