xAI stämmer man för användning av Grok för att skapa CSAM-bilder
Elon Musk-ägda xAI har stämt en man från South Carolina som påstås ha använt företagets AI-chattbot Grok för att generera material som utnyttjar barn sexuellt (CSAM).
AI-företaget xAI, som ägs av Elon Musk, har inlett en stämning mot en man i South Carolina. Företaget hävdar att mannen använde dess AI-chattbot Grok för att skapa och modifiera material som utnyttjar barn sexuellt (CSAM), i strid med xAI:s policy.
Mannen, Terry Wayne Harwood, greps i februari anklagad för innehav och spridning av CSAM. I stämningsansökan uppger xAI att Harwood "medvetet och avsiktligt använde Grok för att kringgå säkerhetsåtgärder, modifiera icke-samtyckta bilder samt för att generera och sprida CSAM".
Enligt xAI genererades eller modifierades "åtminstone” en del av de bilder som är relaterade till Harwoods brottsanklagelser med hjälp av Grok. Företaget anklagar Harwood för att ha brutit mot deras användarvillkor och kräver skadestånd.
Mannen står inför åtta federala åtalspunkter. Fallet belyser riskerna med missbruk av AI-teknik och de utmaningar företag möter för att övervaka och upprätthålla sina säkerhetsbestämmelser.