xAI anklagas för att ha använt barnpornografi för att träna Grok-modeller
Enligt en ny stämning anklagas Elon Musks företag xAI för att ha tränat sina AI-modeller, Grok, med material som skildrar sexuella övergrepp mot barn (CSAM). En av kärandena hävdar att hennes bilder identifierats i AI-genererat innehåll.
Elon Musks AI-företag xAI står inför en stämning som anklagar bolaget för att ha använt material som skildrar sexuella övergrepp mot barn (CSAM) för att träna sina AI-modeller, Grok. Anklagelserna framkom i en stämning som lämnades in på onsdagen, där käranden identifieras som Jane Doe.
Käranden uppger att hon var ett förskolebarn under tidigt 2000-tal då hon upprepade gånger utsattes för sexuella övergrepp för att skapa CSAM-material för försäljning till pedofiler. Sedan dess har hennes bilder hashats av organisationer som National Center for Missing and Exploited Children (NCMEC) och Canadian Centre for Child Protection (CCCP). Hon har valt att få meddelanden från det amerikanska justitiedepartementets victim notification system.
Trots otaliga meddelanden om potentiella nya brottsutredningar, blev käranden chockad när CCCP meddelade att de identifierat AI-genererat CSAM på xAI som avbildade henne. Detta återtraumatiserade Doe, vars stämning hävdar att meddelanden hittats på onlineforum "mellan förbrytare som chattar om att skapa AI-genererat CSAM av käranden och andra liknande kända, äldre, offer för CSAM."
Fallet belyser de etiska och juridiska utmaningarna kring träningsdata för artificiell intelligens. Regleringsmyndigheter och domstolar utreder för närvarande omfattningen av dessa problem. Stämningen kan leda till ytterligare utredningar om hur xAI har samlat in och bearbetat data för att utveckla sina Grok-modeller.