Lasten oikeuksien puolustaja: ChatGPT:n teiniversio aiheuttaa hyväksymättömän riskin

Lasten oikeuksia ajava Common Sense Media -järjestö on julkaissut raportin, jonka mukaan OpenAI:n ChatGPT-chatbotin teineille suunnattu versio sisältää "hyväksymättömän riskin" lapsille, koska sen turvamekanismit eivät toimi odotetusti. Järjestö kehottaa rajoittamaan chatbotin käyttöä vain aikuisille, kunnes OpenAI pystyy tarjoamaan turvallisen ja kehitysvaiheeseen sopivan käyttökokemuksen.

Raportin mukaan osa teiniversion turvaominaisuuksista, kuten seksuaalisten roolipelien estäminen, toimi suunnitellusti. Sen sijaan ominaisuudet, jotka on tarkoitettu vanhempien ilmoittamiseen lapsen itsetuhoisuudesta, itsensä vahingoittamisesta tai syömishäiriöistä, eivät toimineet. Myöskään kriisissä olevia teinejä tukevat toiminnot eivät toimineet raportin mukaan.

OpenAI on kiistänyt raportin löydökset ja väittää, että järjestön testaustapa ei vastaa chatbotin turvatoimien todellista toimintaa. Yhtiö totesi, että "suuri osa heidän testauksestaan saattoi alkaa ja päättyä ennen vanhempien valvonnan täydellistä käyttöönottoa, mikä tekee heidän löydöksistään epätarkkoja". OpenAI korosti sitoutumistaan teinien turvallisuuteen ja tarjoavansa vanhemmille työkaluja teinien tekoälyn käytön ohjaamiseen.

Vanhemmat, opettajat ja lapsikehityksen asiantuntijat ovat ilmaisseet huolensa tekoälychatbotien käytöstä lasten keskuudessa. Chatbotteja on syytetty muun muassa koulutyössä huijaamisen helpottamisesta ja jopa itsetuhoisuuden edistämisestä. Kehityksen asiantuntijoiden mukaan teini-ikäiset, joiden aivot eivät ole vielä täysin kehittyneet, voivat olla erityisen alttiita tekoälyn vaikutuksille.

Common Sense Media saa rahoitusta muun muassa OpenAI:lta ja muilta teknologiayrityksiltä, joiden palveluita se arvioi.