Meta AI ilmoittaa vanhemmille nuorten itsemurha-ajatuksista
Meta esittelee uuden toiminnon, joka ilmoittaa vanhemmille, jos teini-ikäisen keskustelu Meta AI:n kanssa viittaa itsemurha- tai itsensä vahingoittamisen riskiin. Ominaisuus on tällä hetkellä saatavilla Yhdysvalloissa, Isossa-Britanniassa, Australiassa ja Kanadassa.
Meta on ottanut käyttöön uuden ominaisuuden, joka ilmoittaa vanhemmille, jos valvotun teini-ikäisen keskustelu Meta AI -tekoälyn kanssa viittaa mahdolliseen itsemurhaan tai itsensä vahingoittamiseen. Yritys pyrkii tällä toimenpiteellä parantamaan nuorten turvallisuutta digitaalisessa ympäristössä.
Uusi ominaisuus on tällä hetkellä saatavilla vanhemmille Yhdysvalloissa, Isossa-Britanniassa, Australiassa ja Kanadassa, jotka käyttävät Instagramin vanhemmanvalvontatyökaluja. Meta suunnittelee laajentavansa toiminnon maailmanlaajuisesti tämän vuoden loppuun mennessä. Tekoäly tunnistaa mahdollisesti vaaralliset keskustelut asiantuntijoiden luomien signaalien perusteella, ja ihmisarvioijat tarkastavat merkityt keskustelut ennen ilmoitusten lähettämistä.
Jos Meta AI tunnistaa keskustelun, joka viittaa valvotun teini-ikäisen olevan vaarassa, se ilmoittaa siitä valvovalle vanhemmalle ja tarjoaa resursseja keskustelun lähestymiseen. Lisäksi vanhemmat, jotka ottavat käyttöön Instagramin rajoitetun sisällön asetuksen teini-ikäisille, näkevät tiukemman asetuksen koskevan myös Meta AI -keskusteluja, mikä rajoittaa tekoälyn vastaamia kyselyitä.
Meta kehittää erikseen järjestelmää, joka hälyttäisi hätäpalvelut, jos keskustelut Meta AI:n kanssa viittaavat yksilön välittömään itsemurhavaaraan. Tämä on osa yrityksen laajempaa pyrkimystä lisätä tekoälynsä turvallisuutta ja vastuullisuutta.