Oikeusjuttu: Mies käytti Grokia luodakseen tyttärestään 7 000 seksikuvaa, teki sitten itsemurhan
Laajennettu oikeusjuttu väittää miehen luoneen 7 000 tyttärestään esitettyä seksuaalista kuvaa Grok-tekoälyllä ennen itsemurhaansa. Kanne syyttää myös xAI:ta turvajärjestelmien puutteista.
Oikeusjuttu väittää, että mies käytti xAI:n Grok-tekoälyä luodakseen noin 7 000 seksuaalisesti eksplisiittistä kuvaa, jotka esittivät hänen 11-vuotiasta tytärpuoltaan. Mies teki itsemurhan poliisin löydettyä materiaalin. Tästä raportoitiin alun perin yhden tytön tekemässä ryhmäkanteessa, jota nyt on laajennettu.
Kanne, joka on jätetty uudelleen Yhdysvalloissa, syyttää teknologiayritys xAI:ta ja sen omistajaa Elon Muskia siitä, että Grok-tekoäly mahdollisti tällaisten kuvien luomisen ilman asianmukaisia turvajärjestelmiä. Valituksen mukaan tekoäly ei liputtanut haitallisia pyyntöjä ennen kuin mies pyysi "jengiraiskausta". Tämä pyyntö johti viranomaisten ilmoitukseen, mikä paljasti tapauksen.
Lisäksi laajennettu oikeusjuttu väittää, että xAI ja X (entinen Twitter) ovat vaarantaneet alaikäisten turvallisuuden ja aktiivisesti piilottaneet pedofiilejä tarjoamalla järjestelmiä, jotka tuottavat lapsiin kohdistuvaa seksuaalista hyväksikäyttömateriaalia (CSAM). Syytösten mukaan yhtiöt ovat myös vaikeuttaneet poliisitutkintoja.
Perhe on aloittanut ryhmäkanteen, joka koskee useita muita tyttöjä, jotka ovat myös väitetysti joutuneet Grok-tekoälyn luoman CSAM:n uhreiksi. Kanne pyrkii haastamaan xAI:n ja X:n vastuuseen tekoälynsä turvallisuuspuutteista ja niiden seurauksista.