xAI verklagt Mann wegen Nutzung von Grok zur Erzeugung von CSAM-Bildern

Das von Elon Musk geführte KI-Unternehmen xAI hat eine Klage gegen einen Mann aus South Carolina eingereicht. Laut xAI soll der Mann den KI-Chatbot Grok des Unternehmens genutzt haben, um Material des sexuellen Kindesmissbrauchs (CSAM) zu erstellen und zu verändern, und damit gegen die Nutzungsbedingungen von xAI verstoßen haben.

Der Mann, Terry Wayne Harwood, wurde im Februar wegen des Besitzes und der Verbreitung von CSAM festgenommen. In der Klageschrift behauptet xAI, Harwood habe "wissentlich und vorsätzlich Grok genutzt, um Schutzmaßnahmen zu umgehen, nicht-einvernehmliche Bilder zu verändern und CSAM zu erzeugen und zu verbreiten".

xAI gibt an, dass "zumindest" ein Teil der Bilder, die mit Harwoods Strafanzeigen in Verbindung stehen, mit Grok erzeugt oder verändert wurden. Das Unternehmen fordert Schadensersatz wegen Vertragsbruchs.

Harwood sieht sich acht Anklagepunkten gegenüber. Der Fall unterstreicht die Herausforderungen, denen sich KI-Unternehmen bei der Verhinderung von Missbrauch ihrer Technologien und der Durchsetzung von Nutzerrichtlinien gegen böswillige Aktivitäten gegenübersehen.