Foto Patrick Pleul/Pool via REUTERS
povezane vijesti
Novo istraživanje pokazuje koliko su korisnici AI chatbota Grok u vlasništvu X-a Elona Muska zaista često stvarali seksualizirane slike stvarnih ljudi – žena i maloljetnika i to bez njihovog pristanka.
Prema podacima prikupljenim i analiziranim od strane doktorandice s Trinity koledža u Dublinu, gotovo 75 % promatranih objava s X-a u uzorku od preko 500 postova sadržavalo je zahtjeve da Grok izmijeni fotografije tako da digitalno ukloni ili promijeni odjeću ljudi u seksualizirane prikaze.
U većini slučajeva, AI chatbot je generirao fotorealistične slike koje zadovoljavaju zahtjevima za uklanjanjem odjeće, iako se radilo o osobnim fotografijama stvarnih osoba, uključujući i maloljetne osobe.
Analiza je pokazala kako su ti zahtjevi evoluirali. Dok je Grok 2023. odbijao takve zadatke, od 2024. im je počeo udovoljavati, dijelom i zbog novih značajku alata kao što je tzv. spicy mode.
Ovaj fenomen naišao je na međunarodnu osudu. Regulatori i zakonodavci iz Europske unije, Velike Britanije, Indije i Australije pozvali su na strože mjere i kontrolu nakon što su se pojavile neovlaštene seksualne slike koje generira AI.
Europska komisija naredila je zadržavanje svih dokumenata i podataka vezanih uz Grok do kraja 2026. godine kako bi se osigurala dostupnost materijala za moguće provjere usklađenosti s zakonima poput Digital Services Acta.
Brojni korisnici – uključujući javne osobe – izrazili su javno povredu privatnosti nakon što su vidjeli kako ih AI može bez njihovog pristanka prikazati u eksplicitnim ili kompromitirajućim prikazima.
Kritičari upozoravaju da se radi o ozbiljnom pitanju etike i povredi prava na privatnost, te da ovakva praksa može imati traumatične posljedice za žrtve. Unatoč najavama platforme X i xAI da će sankcionirati korisnike koji generiraju ilegalni sadržaj, neke od ovih AI-generiranih slika i dalje se dijele.
Stručnjaci upozoravaju kako trenutačni sustavi filtriranja i zaštite nisu dovoljni te da je potrebna stroža regulacija i provedba zakona protiv neovlaštenog stvaranja intimnih slika.
