Meta meddelar föräldrar om tonåringars samtal om självmord med AI

Meta meddelade på torsdagen att man kommer att informera föräldrar om deras tonåring diskuterar självmord eller självskada med företagets Meta AI-chattbot. Företaget utvecklar även möjligheten att kontakta räddningstjänst om en konversation tyder på risk för självskada.

Förändringarna kommer i en tid då Meta och andra teknikföretag granskas av tillsynsmyndigheter och föräldrar kring hur AI-chattbottar reagerar på användare i kris, särskilt tonåringar. Denna fråga kring ansvar formar i allt högre grad hur AI-företag utformar och marknadsför sina produkter.

Meta uppger att man har utvecklat ett dedikerat AI-system för att identifiera samtal där en tonåring tydligt refererar till att skada sig själv. Alla samtal som flaggas av AI:n granskas manuellt innan ett meddelande skickas till föräldern.

Meta skriver i ett blogginlägg att de förstår att sådana meddelanden kan vara upprörande för en förälder. Företaget betonar att om en tonårings avsikt är oklar, kommer man att agera försiktigt och informera föräldern, även om det kan innebära att man ibland meddelar utan verklig anledning.

Denna funktion är nu tillgänglig för föräldrar som använder Instagrams föräldrakontroll i USA, Storbritannien, Australien och Kanada. Meta planerar att rulla ut funktionen globalt innan årets slut.