xAI stämmer användare – anklagad för att ha skapat CSAM med Grok
xAI har stämt sin första användare, Terry Wayne Harwood, anklagad för att ha använt Grok-chatboten för att skapa olagligt material. Användaren misstänks för inblandning i produktionen av sexuellt material som utnyttjar barn (CSAM).
AI-företaget xAI har inlett en stämning mot en av sina användare, anklagad för att ha använt företagets Grok-chatbot för att generera olagligt innehåll, inklusive material som utnyttjar barn sexuellt (CSAM). Företaget har tidigare mött kritik och press för att erkänna att Grok kan användas för att skapa bilder som inte är samtyckta.
Målet riktas mot Terry Wayne Harwood, som tidigare i år greps och anklagades för innehav och distribution av CSAM i South Carolina. Enligt xAI:s anklagelser bidrog företaget till gripandet efter att ha upptäckt att Harwood under månader använt två xAI-konton för att avkläda eller "nudifiera" bilder av flera offer, inklusive en ung flicka som uppskattas vara så ung som 10 år.
Fallet belyser de utmaningar som AI-teknologin medför när det gäller att förhindra olagligt innehåll som CSAM. xAI:s agerande tyder på en ansträngning att bekämpa missbruk och visa ansvar som utvecklare av AI. Företaget syftar nu till att stärka övervakningen och åtgärderna för att förhindra liknande fall i framtiden.