Kontrollinstanz: OpenAIs Teenie-Version von ChatGPT birgt "inakzeptables Risiko" für Kinder
Ein Bericht von Common Sense Media besagt, dass die Sicherheitsfunktionen von OpenAIs ChatGPT für Teenager nicht wie vorgesehen funktionieren und ein "inakzeptables Risiko" für Kinder darstellen.
OpenAIs ChatGPT-Chatbot stellt in seiner für Teenager konfigurierten Version ein "inakzeptables Risiko" für Kinder dar, da die integrierten Sicherheitsvorkehrungen nicht ordnungsgemäß funktionieren. Dies geht aus einem neuen Bericht der Kontrollorganisation Common Sense Media hervor. Die Organisation fordert OpenAI auf, die Nutzung des Chatbots auf Erwachsene zu beschränken, bis eine "sichere und entwicklungsangemessene Erfahrung" gewährleistet werden kann.
Der Bericht legt dar, dass einige Schutzmechanismen, wie die Verhinderung von expliziten sexuellen Rollenspielen, zwar wirksam waren, andere jedoch versagten. Insbesondere Funktionen, die Eltern über potenzielle Risiken von Suizid, Selbstverletzung oder Essstörungen informieren sollten, funktionierten nicht wie vorgesehen. Auch Unterstützungsfunktionen für Jugendliche in Krisensituationen sollen fehlerhaft gewesen sein.
OpenAI hat die Ergebnisse bestritten und vorgeschlagen, dass die Testmethodik die Sicherheitsvorkehrungen des Chatbots nicht korrekt widerspiegelt. Das Unternehmen erklärte, dass "der Großteil ihrer Tests möglicherweise begonnen und abgeschlossen wurde, bevor die elterlichen Kontrollen vollständig aktiviert waren, was ihre Ergebnisse ungenau macht". OpenAI bekräftigte sein Engagement für die Sicherheit von Teenagern und die Bereitstellung von Werkzeugen zur elterlichen Kontrolle.
Die Bedenken entstehen inmitten breiterer Ängste von Eltern, Pädagogen und Experten für Kinderentwicklung hinsichtlich der Nutzung von KI-Chatbots durch Kinder. Diese Werkzeuge wurden mit Problemen wie der Erleichterung von akademischer Unehrlichkeit und der potenziellen Verschärfung von psychischen Problemen in Verbindung gebracht. Experten weisen darauf hin, dass Jugendliche, deren Gehirne sich noch in der Entwicklung befinden, besonders anfällig für die emotionalen und psychologischen Auswirkungen der Interaktion mit KI sein können.
Common Sense Media, eine Organisation, die sich für eine sinnvolle Nutzung digitaler Medien einsetzt, erhält Finanzierungen von verschiedenen Technologieunternehmen, darunter OpenAI, deren Dienstleistungen sie evaluiert.