KI-Chatbots bei jugendlichen Social-Media-Verboten übersehen

Weltweit haben Regierungen in letzter Zeit Maßnahmen ergriffen, um Teenager von sozialen Medien auszuschließen. Gleichzeitig setzen immer mehr Jugendliche auf KI-Chatbots, was die Probleme der sozialen Medien aus den 2010er Jahren widerspiegelt. Experten für digitale Sicherheit äußern Bedenken hinsichtlich unzureichender Gesetzgebung im Bereich Kinderschutz und KI-Chatbots.

Laut Pew Research Center nutzen etwa die Hälfte der US-Teenager mittlerweile Chatbots wie ChatGPT und Character.AI für Schularbeiten, Informationen oder zur Unterhaltung. Es gibt zunehmend Hinweise darauf, dass Jugendliche diese KI-Tools als Ersatz für reale Freundschaften und Beziehungen verwenden und Suchtmuster aufweisen.

Australien war das erste Land, das im Dezember ein gesetzliches Verbot für Teenager in sozialen Medien einführte. Diesem Beispiel sind inzwischen das Vereinigte Königreich, Spanien, Frankreich, Griechenland und Kanada gefolgt. Auch in den USA erwägen einzelne Bundesstaaten ähnliche Verbote. Kritiker argumentieren, dass die Gesetzgeber erneut hinter den technologischen Fortschritten herhinken.

„Es ist richtig, dass wir soziale Medien als Fallstudie für das verwenden, was wir nicht wiederholen wollen. Es ist ein bisschen so, als ob man sagt: Betrüge mich einmal, du bist schuld; betrüge mich zweimal, ich bin schuld“, sagte Kaitlyn Regehr, außerordentliche Professorin für digitale Geisteswissenschaften an der University College London, gegenüber CNBC. Sie kritisierte, dass Regierungen Jahre damit verbringen, Vorschriften für soziale Medien zu entwickeln, nur um dann denselben Fehler zu wiederholen, indem sie unerprobte KI-Produkte für Kinder zulassen.

Experten fordern eine schnellere Reaktion auf die Entwicklung von KI, um die Sicherheit junger Menschen im digitalen Bereich zu gewährleisten, bevor ähnliche Probleme wie bei sozialen Medien auftreten.