Stämning: Man använde Grok för att skapa 7 000 sexbilder av styvdotter, tog sedan sitt liv
En utökad stämning hävdar att en man använde xAI:s Grok för att skapa 7 000 sexuellt explicita bilder av sin styvdotter innan han begick självmord. Käranden anklagar också xAI för bristande säkerhetsåtgärder.
En man använde enligt en stämning xAI:s AI-modell Grok för att generera omkring 7 000 sexuellt explicita bilder av sin styvdotter, då 11 år gammal, innan han tog sitt eget liv när polisen upptäckte materialet. Detta framkommer i en utökad gruppstämning som nu har lämnats in.
Stämningen, som lämnats in på nytt i USA, anklagar xAI och grundaren Elon Musk för att Grok saknade tillräckliga skyddsmekanismer som hade kunnat förhindra skapandet av sådant material. Enligt stämningsansökan flaggade systemet inte för skadliga anmodanden förrän mannen begärde "gängvåldtäkt", vilket ledde till en anmälan till myndigheterna och upptäckten av fallet.
Den utökade stämningen hävdar vidare att xAI och X, tidigare Twitter, har äventyrat barns säkerhet och skyddat förövare genom att tillhandahålla verktyg som kan producera material som utnyttjar barn sexuellt (CSAM). Anklagelserna inkluderar även att företagen har försvårat polisutredningar.
Den ursprungliga gruppstämningen har nu utökats till att inkludera flera andra flickor som påstås ha blivit offer för CSAM genererat av Grok. Kärandena vill ställa xAI och X ansvariga för bristerna i deras AI-säkerhet och de konsekvenser detta har fått.