Meta informiert Eltern über Suizidgespräche von Teenagern mit KI
Meta wird Eltern nun benachrichtigen, wenn ihr Teenager über Selbstmord oder Selbstverletzung mit dem KI-Chatbot des Unternehmens spricht. Die Neuerung ist eine Reaktion auf wachsende Bedenken hinsichtlich der Auswirkungen von KI auf junge Nutzer in Krisensituationen.
Meta hat am Donnerstag angekündigt, dass Eltern künftig benachrichtigt werden, wenn ihre minderjährigen Kinder mit dem Meta AI-Chatbot des Unternehmens über Selbstmord oder Selbstverletzung sprechen. Das Unternehmen entwickelt zudem die Möglichkeit, Notdienste zu kontaktieren, falls ein Gespräch auf ein Selbstverletzungsrisiko hindeutet.
Diese Entwicklungen erfolgen vor dem Hintergrund einer zunehmenden Überprüfung durch Regulierungsbehörden und Eltern, wie KI-Chatbots auf Nutzer in Krisensituationen, insbesondere Teenager, reagieren. Diese Haftungsfrage prägt zunehmend die Gestaltung und Vermarktung von KI-Produkten.
Meta gibt an, ein spezielles KI-System entwickelt zu haben, um Gespräche zu identifizieren, in denen ein Teenager klar eine Absicht zur Selbstschädigung äußert. Alle von der KI gekennzeichneten Chats werden manuell überprüft, bevor eine Benachrichtigung an die Eltern gesendet wird.
Das Unternehmen räumte ein, dass diese Benachrichtigungen für Eltern belastend sein können. Meta erklärte, dass in unklaren Fällen vorsorglich gehandelt und die Eltern informiert werden, auch wenn dies gelegentliche Benachrichtigungen ohne wirklichen Grund zur Sorge bedeuten könnte.
Die Benachrichtigungsfunktion ist für Eltern, die die elterliche Kontrolle von Instagram in den USA, Großbritannien, Australien und Kanada nutzen, bereits verfügbar. Meta plant, die Funktion bis Ende des Jahres weltweit einzuführen.