Oversight Board fordert Meta auf, KI-Kennzeichnungsschwellen zu senken und Strafen zu erhöhen
Metas Oversight Board hat eine Entscheidung von Meta aufgehoben, ein KI-generiertes Video mit Hassreden gegen Flüchtlinge nicht zu entfernen. Das Gremium forderte die Entfernung des Videos und verlangte von Meta, die Schwellenwerte für 'Hochrisiko'-Kennzeichnungen zu senken und Strafen für Wiederholungstäter zu erhöhen.
Metas Oversight Board hat die Entscheidung des Unternehmens aufgehoben, ein KI-generiertes Video mit Hassreden gegen Flüchtlinge nicht zu entfernen. Das Gremium ordnete am 17. September die Entfernung des Videos an und forderte Meta auf, die Schwelle für die Anwendung von 'Hochrisiko'-Kennzeichnungen für manipulierte Medien zu senken, eine Klick-Durch-Schaltfläche einzuführen, bevor Nutzer solche Inhalte ansehen, und Konten zu bestrafen, die diese wiederholt teilen.
Das Gremium befand, dass die Kriterien von Meta für die Kennzeichnung 'Hochrisiko-KI' übermäßig hoch seien und stellte fest, dass die Kennzeichnungen nur in minimalem Umfang angewendet worden seien. Es kritisierte auch die Durchsetzungsrichtlinien von Meta zu Hassreden als 'übermäßig mechanisch', da sie sich mehr auf die Grammatik als auf die Absicht oder die potenzielle Schädigung konzentrierten.
Das Video, das im November 2025 veröffentlicht wurde, zeigte einen schottischen Labour-Politiker mit aufwieglerischen Äußerungen über Flüchtlinge. Meta hatte ursprünglich festgestellt, dass das Video nicht gegen seine Gemeinschaftsstandards verstößt und keine KI-Kennzeichnung erfordert, obwohl Nutzerberichte und Berufungen vorlagen. Das Oversight Board machte Meta auf den Fall aufmerksam.
Meta wird nun aufgefordert, die Anwendung von 'Hochrisiko'-Kennzeichnungen über Krisen- oder Wahlintegritätsmaßnahmen hinaus auszudehnen, eine Zwischenbildschirm für Betrachter zu verlangen und Strafen wie Dämonetarisierung oder Entfernung aus Empfehlungen für Wiederholungstäter zu verhängen. Das Gremium forderte auch global anwendbare Regeln, erhöhte Transparenz bei der Kennzeichnungsnutzung und Zugang zu Inhaltsbibliotheken für Forscher.
Das Gremium wies die Rechtfertigung von Meta für die Zulassung des Videos zurück und erklärte, dass die Abwesenheit einer Krise das Potenzial des Inhalts, die Öffentlichkeit zu täuschen, nicht aufhebe. Meta bestrafte den Nutzer nicht für die Nichtoffenlegung der KI-Nutzung, und das Unternehmen hat zuvor Empfehlungen des Gremiums zur Änderung seiner Auslegung von gruppenbezogenen Aussagen als Hassreden abgelehnt.