OpenAI führt ChatGPT-Modus für Jugendliche mit verschärften Schutzmaßnahmen ein

OpenAI hat einen eigenen ChatGPT-Modus für Nutzer im Alter von 13 bis 17 Jahren gestartet, der strengere Beschränkungen für schädliche Inhalte wie grafische Gewalt, Selbstverletzung und sexuelle Rollenspiele vorsieht.

Der Teenager-Modus ist mit "altersgerechten Schutzmaßnahmen" ausgestattet, um die Exposition gegenüber potenziell schädlichen oder entwicklungsbeeinträchtigenden Inhalten zu reduzieren. Das System wird jüngere Nutzer daran erinnern, nach 90 Minuten Aktivität innerhalb eines Dreistundenzeitraums Pausen einzulegen. OpenAI hat auch Schutzmaßnahmen verstärkt, um zu verhindern, dass der Chatbot persönliche Gefühle ausdrückt, und wird Nutzer alarmieren, wenn sensible Bilder hochgeladen werden.

Zu den Funktionen für Teenager gehören ein "Study Mode" zur Unterstützung bei Aufgaben und beim Lernen, Erinnerungen an verantwortungsbewusstes Erledigen von Hausaufgaben sowie "Study Hours" zum Festlegen von Standardnutzungszeiten. Das Unternehmen nutzt Verhaltenssignale wie Nutzungszeiten, Formulierungen von Anfragen und Handschriftenanalysen, um das Alter der Nutzer abzuschätzen. Wenn das Alter nicht ermittelt werden kann, wird standardmäßig ein Modus für unter 18-Jährige angewendet.

Diese Einführung erfolgt vor dem Hintergrund wachsender globaler Bedenken hinsichtlich der KI-Sicherheit für Minderjährige. OpenAI sieht sich mit mehreren Klagen konfrontiert, die behaupten, ChatGPT verschlimmere psychische Gesundheitsprobleme und schüre Gewalt. Ein aktueller Fall betrifft einen 17-Jährigen, der wegen Mordes angeklagt wurde und angeblich ChatGPT nutzte, um sich über die Tötung seiner Familie zu informieren.

Obwohl der neue Teenager-Modus die Sicherheit erhöhen soll, bleiben umfassendere Herausforderungen bei der effektiven Altersüberprüfung für KI-Plattformen und dem Potenzial für Missbrauch bestehen. Auch Indien erwägt gestaffelte altersbasierte Beschränkungen für Social-Media-Plattformen.