Meta tiedottaa vanhemmille teiniensä keskusteluista itsetuhoisuudesta tekoälyn kanssa
Meta ilmoittaa jatkossa vanhemmille, jos heidän teini-ikäisensä keskustelee itsetuhoisuudesta tai itsensä vahingoittamisesta yrityksen tekoälychatbotin kanssa. Uudistus tulee vastaamaan kasvavaan huoleen tekoälyn vaikutuksista nuoriin.
Meta ilmoitti torstaina alkavansa ilmoittaa vanhemmille, mikäli heidän teini-ikäinen lapsensa keskustelee yrityksen Meta AI -chatbotin kanssa itsetuhoisuudesta tai itsensä vahingoittamisesta.
Muutos on vastaus lisääntyneeseen sääntelyyn ja vanhempien huoleen siitä, miten tekoälychatbotit reagoivat kriisitilanteissa oleviin käyttäjiin, erityisesti nuoriin. Meta kehittää parhaillaan myös ominaisuutta, joka mahdollistaisi yhteydenoton hätäpalveluihin, jos keskustelu viittaa itsetuhoisuuden riskiin.
Yhtiön mukaan keskitetty tekoälyjärjestelmä on kehitetty tunnistamaan keskustelut, joissa teini ilmaisee selkeästi aikomuksen vahingoittaa itseään. Kaikki tekoälyn merkitsemät keskustelut tarkastetaan manuaalisesti ennen ilmoituksen lähettämistä vanhemmille.
Meta on linjannut, että epäselvissä tapauksissa varovaisuusperiaatetta noudatetaan, ja vanhemmille lähetetään ilmoitus. Yhtiö myöntää, että tämä saattaa johtaa joskus ilmoituksiin ilman todellista syytä, mutta pitää sitä oikeana lähtökohtana.
Ilmoitusominaisuus on käytössä Yhdysvalloissa, Isossa-Britanniassa, Australiassa ja Kanadassa Instagramin vanhemmuuden valvonta -työkaluissa. Meta kertoo laajentavansa sen maailmanlaajuiseksi vuoden loppuun mennessä.