xAI stämmer Minnesota över lag mot "nudifikationsappar"

xAI har stämt Minnesotas justitieminister Keith Ellison angående en lag som antogs i maj. Lagen riktar sig brett mot "nudifikationsappar", och xAI menar att dess straffbestämmelser ger företaget "inget praktiskt alternativ än att på olika sätt begränsa bildredigeringsfunktionerna i Grok Imagine". Företaget hävdar vidare att lagen strider mot det första tillägget i USA:s konstitution, vilket garanterar yttrandefrihet.

I januari spred Grok miljontals sexuellt explicita deepfake-bilder, inklusive bilder på minderåriga. Lagen syftar till att förhindra spridning av sådant innehåll och ställer striktare krav på innehållsmoderering. xAI anser att lagen är för bred och att dess tillämpning orimligt begränsar utvecklingen och användningen av digitala tjänster.

Myndigheterna i Minnesota å sin sida argumenterar för att lagen är nödvändig för att skydda barn och säkerställa onlinesäkerhet. De menar att "nudifikationsappar" utgör en betydande risk, särskilt för unga, och att lagen behövs för att minimera dessa risker.

Rättsprocessen fortsätter, och dess utfall kan ha en betydande inverkan på framtida reglering av digitalt innehåll i USA. Beslutet kan skapa ett prejudikat för teknikföretagens ansvar och begränsningar av innehållsskapande.