xAI haastoi käyttäjän – syytetty CSAM sisällön luomisesta Grok-chatbotilla
xAI on haastanut oikeuteen ensimmäisen käyttäjänsä, Terry Wayne Harwoodin, syyttäen tätä Grok-chatbotin käyttämisestä laittoman materiaalin luomiseen. Käyttäjää epäillään osallisuudesta lasten seksuaalisen hyväksikäytön materiaalin (CSAM) tuottamiseen.
Tekoäly-yritys xAI on nostanut kanteen ensimmäistä käyttäjäänsä vastaan, syyttäen häntä Grok-chatbotin käyttämisestä laittoman sisällön, kuten lapsiin kohdistuvan seksuaalisen hyväksikäytön materiaalin (CSAM), luomiseen. Yritys on aiemmin kohdannut paineita myöntää, että Grok-tekoäly saattaa tuottaa ei-konsensuaalista seksuaalista kuvamateriaalia, mukaan lukien alaikäisistä.
Oikeusjuttu kohdistuu Terry Wayne Harwoodiin, joka pidätettiin aiemmin tänä vuonna syytettynä CSAM-materiaalin hallussapidosta ja levittämisestä Etelä-Carolinassa. xAI:n mukaan yhtiö avusti Harwoodin pidätyksessä löydettyään todisteita siitä, että Harwood oli käyttänyt kahta xAI-tiliä kuukausien ajan kuviin, joissa muun muassa alaikäisiä tyttöjä kuvattiin alastomina.
Tapaus korostaa tekoälyteknologian haasteita laittoman sisällön, kuten CSAM:n, estämisessä. xAI:n toimet viittaavat yritykseen torjua väärinkäytöksiä ja osoittaa vastuullisuutta tekoälyn kehittäjänä. Yritys pyrkii nyt vahvistamaan valvontaa ja toimenpiteitä vastaavien tapausten ehkäisemiseksi tulevaisuudessa.