Meta AI informiert Eltern bei Suizidgesprächen von Teenagern
Meta führt eine Funktion ein, die Eltern benachrichtigt, wenn die Gespräche ihrer Teenager mit Meta AI auf Suizid oder Selbstverletzung hindeuten. Das Werkzeug ist derzeit in den USA, Großbritannien, Australien und Kanada verfügbar und soll global ausgeweitet werden.
Meta hat eine neue Funktion eingeführt, die Eltern benachrichtigen soll, wenn die Interaktionen ihrer Teenager mit Meta AI auf Diskussionen über Suizid oder Selbstverletzung hindeuten. Diese Initiative zielt darauf ab, die Sicherheit junger Nutzer innerhalb der KI-Plattformen des Unternehmens zu erhöhen.
Die Funktion ist derzeit für Eltern in den Vereinigten Staaten, dem Vereinigten Königreich, Australien und Kanada verfügbar, die die elterlichen Überwachungswerkzeuge von Instagram nutzen. Meta plant, diese Funktionalität bis Ende des Jahres weltweit verfügbar zu machen. Das System nutzt KI, um Konversationen anhand von mit Experten entwickelten Signalen zu kennzeichnen, gefolgt von einer manuellen Überprüfung durch menschliche Moderatoren, bevor Benachrichtigungen versendet werden.
Wenn Meta AI ein Gespräch erkennt, das darauf hindeutet, dass ein minderjähriger Nutzer unter Aufsicht gefährdet sein könnte, wird die zuständige erziehungsberechtigte Person benachrichtigt und erhält Ressourcen, die ihr bei der Annäherung an die Situation helfen. Eltern, die die Einstellung für eingeschränkte Inhalte von Instagram für Teenager aktivieren, werden feststellen, dass diese Einschränkung auch für Meta AI-Chats gilt, was den Umfang der Fragen, auf die die KI antwortet, einschränkt.
Darüber hinaus entwickelt Meta separat ein System, um Notdienste zu alarmieren, wenn Gespräche mit Meta AI darauf hindeuten, dass eine Person einer unmittelbaren Selbstmordgefahr ausgesetzt ist. Dies spiegelt einen breiteren Branchentrend wider, Sicherheitsmaßnahmen in künstliche Intelligenzwerkzeuge zu integrieren.