Klage: Mann nutzte Grok für 7.000 Sexbilder seiner Stieftochter, beging dann Selbstmord
Eine erweiterte Klage behauptet, ein Mann habe die KI Grok von xAI genutzt, um 7.000 explizite Bilder seiner Stieftochter zu erstellen, bevor er Selbstmord beging. Die Klage wirft xAI auch unzureichende Sicherheitsmaßnahmen vor.
Ein Mann soll mithilfe des KI-Modells Grok von xAI rund 7.000 sexuell explizite Bilder seiner damals 11-jährigen Stieftochter generiert haben, bevor er Suizid beging, nachdem die Polizei das Material entdeckt hatte. Dies geht aus einer erweiterten Sammelklage hervor.
Die überarbeitete Klageschrift, die erneut in den USA eingereicht wurde, beschuldigt das KI-Unternehmen xAI und dessen Gründer Elon Musk, Grok mit unzureichenden Sicherheitssystemen entwickelt zu haben, die die Erstellung solcher Inhalte nicht verhinderten. Laut der Anklage schlugen die Sicherheitsprotokolle der KI erst bei einer expliziten Aufforderung nach "Massenvergewaltigung" an, was zu einer Meldung an das National Center for Missing and Exploited Children führte.
Darüber hinaus behauptet die erweiterte Klage, dass xAI und die Social-Media-Plattform X von Musk die Sicherheit von Minderjährigen gefährdet und Täter geschützt hätten, indem sie Werkzeuge zur Verfügung stellten, die kinderpornografisches Material (CSAM) erzeugen können. Die Anschuldigungen deuten darauf hin, dass die Unternehmen auch polizeiliche Ermittlungen behindert haben.
Die Klage, die ursprünglich im Namen eines Mädchens eingereicht wurde, wurde nun um Ansprüche weiterer junger Mädchen erweitert, die angeblich ebenfalls Opfer von durch Grok erzeugtem CSAM geworden sind. Die Kläger fordern, xAI und X für angebliche Mängel in ihren KI-Sicherheitsprotokollen und die daraus resultierenden Schäden zur Verantwortung zu ziehen.