OpenAI startet ChatGPT-Version für Teenager mit verbesserten Sicherheitsfunktionen
OpenAI hat ChatGPT for Teens eingeführt, eine Version mit stärkeren Sicherheitsvorkehrungen und elterlicher Kontrolle für Nutzer zwischen 13 und 17 Jahren. Dies geschieht zeitgleich mit einer Klage gegen Meta wegen der angeblich absichtlichen Gestaltung von Plattformen zur Suchterzeugung bei Kindern.
OpenAI hat ChatGPT for Teens gestartet, eine Version seines KI-Chatbots mit erweiterten Sicherheitsfunktionen für Nutzer im Alter von 13 bis 17 Jahren. Diese neue Version integriert automatisch jüngere Nutzer in ein System mit stärkeren Sicherheitsmaßnahmen, Nutzungserinnerungen und zusätzlichen elterlichen Kontrollmöglichkeiten.
Diese Einführung erfolgt zu einem Zeitpunkt, an dem Meta, das Mutterunternehmen von Facebook und Instagram, mit einer Klage von 29 Generalstaatsanwälten konfrontiert ist. Die Klage behauptet, Meta habe seine Plattformen bewusst so gestaltet, dass sie bei Kindern süchtig machen, die Öffentlichkeit über die Gefahren für junge Nutzer getäuscht und illegal Daten von Kindern unter 13 Jahren ohne elterliche Zustimmung gesammelt.
Experten weisen auf ein wiederkehrendes Muster in der Tech-Branche hin: Produkte werden veröffentlicht, die junge Nutzer ansprechen, während Sicherheitsgrenzen und altersgerechte Funktionen erst später eingeführt werden. OpenAI gibt an, dass ChatGPT for Teens auf bestehenden Sicherheitsmaßnahmen wie elterlicher Kontrolle und Altersvorhersage aufbaut und die Sicherheit von Teenagern priorisiert.
Victoria Baines, ehemalige Mitarbeiterin von Facebook und Professorin, zieht Parallelen zwischen KI und den Sicherheitsproblemen sozialer Medien. Sie schlägt vor, dass sich Technologieunternehmen oft zunächst auf eindeutig illegale Schäden wie Kindesmissbrauch und Terrorismus konzentrieren, während mehrdeutige Risiken wie unzulässiger Einfluss und Fehlinformationen schwieriger zu regulieren sind.
Meetali Jain vom Tech Justice Law Project beschreibt generative KI als "Social Media auf Steroiden", was auf eine potenziell tiefere gesellschaftliche Auswirkung hindeutet. Die Geschwindigkeit der KI-Einführung weckt Bedenken, da sie weniger Zeit für die Schadensbegrenzung lässt als bei sozialen Medien. Nina Vasan von der Stanford University hebt das Potenzial von KI für größere Schäden hervor, da sie die Schwachstellen der Nutzer lernen kann.