Meta informerar föräldrar om tonåringars självmordstankar med AI
Meta introducerar en ny funktion som varnar föräldrar om en tonårings konversation med Meta AI tyder på självmordsrisk eller självskadebeteende. Funktionen är tillgänglig för föräldrar i USA, Storbritannien, Australien och Kanada som använder Instagrams föräldrakontroll.
Meta har infört en ny funktion som meddelar föräldrar om en tonårings samtal med Meta AI indikerar att det finns en risk för självmord eller självskada. Detta initiativ syftar till att förbättra säkerheten för unga användare i den digitala miljön.
Funktionen är för närvarande tillgänglig för föräldrar i USA, Storbritannien, Australien och Kanada som använder Instagrams verktyg för föräldrakontroll. Företaget planerar att rulla ut funktionen globalt före årets slut. Ett dedikerat AI-system identifierar dessa chattar med hjälp av signaler utvecklade med experter, och mänskliga granskare kommer manuellt att granska flaggade konversationer innan varningar skickas.
Om Meta AI identifierar konversationer som tyder på att en tonåring löper risk, kommer den att meddela den förälder som har tillsyn och ge resurser för hur man närmar sig samtalet. Dessutom kommer föräldrar som aktiverar Instagrams inställning för begränsat innehåll för tonåringar att få en striktare inställning tillämpad även på Meta AI-chattar, vilket ytterligare begränsar typerna av frågor som AI:n kommer att svara på.
Parallellt utvecklar Meta ett system för att larma räddningstjänsten om konversationer med Meta AI tyder på att en individ löper omedelbar risk för självmord. Detta återspeglar ett bredare engagemang från företaget att öka säkerheten och ansvaret i sina AI-produkter.