xAI soll Kinderpornografie für Grok-Modelle verwendet haben

Elon Musks KI-Unternehmen xAI wird beschuldigt, seine Grok-KI-Modelle mit Material sexuellen Kindesmissbrauchs (CSAM) trainiert zu haben. Die Anschuldigungen wurden in einer am Mittwoch eingereichten Klage einer als Jane Doe bekannten Klägerin dargelegt.

Die Klage besagt, dass Doe in den frühen 2000er Jahren ein Vorschulkind war, als sie wiederholt sexuell missbraucht wurde, um CSAM für den Verkauf an Online-Pädophile zu erstellen. Ihre Bilder wurden seitdem von Organisationen wie dem National Center for Missing and Exploited Children (NCMEC) und dem Canadian Centre for Child Protection (CCCP) gehasht. Doe erhält Benachrichtigungen vom Victim Notification System des US-Justizministeriums, wann immer sie möglicherweise Opfer in einer neuen kriminellen Untersuchung ist.

Ungeachtet zahlreicher Benachrichtigungen über neue kriminelle Ermittlungen war Doe Berichten zufolge schockiert, als das CCCP sie darüber informierte, dass ihre Ähnlichkeit in von xAI erstelltem KI-generiertem CSAM identifiziert worden sei. Die Klage behauptet, dass Doe eine Retraumatisierung erlebte, und zitiert Nachrichten, die auf Online-Foren gefunden wurden "zwischen Tätern, die darüber plauderten, KI-generiertes CSAM der Klägerin und anderer ähnlich situierter bekannter, älterer Opfer von CSAM zu erstellen."

Dieser Fall beleuchtet erhebliche ethische und rechtliche Herausforderungen im Zusammenhang mit den Daten, die zum Trainieren von Systemen künstlicher Intelligenz verwendet werden. Regulierungsbehörden und Gerichte untersuchen weiterhin das Ausmaß dieser Probleme in der KI-Branche. Die Klage könnte weitere Untersuchungen der Datenerfassungs- und -verarbeitungsmethoden von xAI für seine Grok-Modelle nach sich ziehen.