New York City verbietet generatives KI für Schüler bis zur 8. Klasse
New York City hat ein einjähriges Verbot für generatives KI im Einsatz durch Schüler der Klassen 2-K bis 8 erlassen. Die neue Richtlinie zielt darauf ab, die Nutzung der Technologie bei jüngeren Schülern zu begrenzen und menschliche Interaktion zu priorisieren.
New York City hat ein einjähriges Moratorium für generatives künstliche Intelligenz (KI), das von Schülern genutzt wird, für die Klassen 2-K bis zur 8. Klasse erlassen. Die Richtlinie, die ab dem Schuljahr 2026-27 in Kraft tritt, betrifft fast 600.000 Schüler und betont die Bedeutung menschlicher Interaktion und traditioneller Lernmethoden für jüngere Schüler.
Die Stadtführung nannte Bedenken hinsichtlich unzureichender Beweise für die Vorteile von KI in der frühen Bildung und möglicher finanzieller Interessen von Unternehmen. Die Richtlinie beschränkt auch die Bildschirmzeit für jüngere Schüler und verbietet „begleitende Chatbots“ in allen Klassenstufen. Ausnahmen gelten für assistierende Technologien für Schüler mit besonderen Bedürfnissen und für mehrsprachige Lerner sowie für KI-Werkzeuge, die von Lehrern für Unterrichtsplanung und Verwaltungsaufgaben verwendet werden.
Für Oberstufenschüler (Klassen 9–12) ist ein begrenztes Experimentieren mit generativer KI unter Aufsicht von Lehrern und innerhalb zugelassener Programme gestattet. Alle Oberstufenschüler müssen ein kurzes Modul zur KI-Kompetenz absolvieren, das KI-Funktionalität, Datenschutz, Bias und die richtige Anwendung abdeckt. Die Stadt wird außerdem kontrollierte Pilotprogramme in fünf verschiedenen Produkten mit definierten Nutzungslimits durchführen.
Darüber hinaus werden KI-Funktionen in über 30 bereits von den Schulen der Stadt genutzten Bildungsprogrammen deaktiviert. Der Datenschutz und die Sicherheit dieser Software werden strenger bewertet, wobei auch algorithmische Verzerrungen und die pädagogische Effektivität berücksichtigt werden.
Das Verbot ist vorübergehend und seine Auswirkungen werden über ein Jahr lang überprüft. Eine Koalition von Interessengruppen wird gebildet, um die Umsetzung der Richtlinie und den Fortschritt der Pilotprogramme zu überwachen und Empfehlungen für die Zukunft zu geben. Diese Entscheidung spiegelt eine breitere Debatte über die Rolle von KI in der Bildung und ihre Auswirkungen auf den Datenschutz von Schülern wider.