KI-Moderation durch Kontext eingeschränkt, keine Komplettlösung

Künstliche Intelligenz (KI) kann zwar die Moderation von Inhalten und die Altersverifizierung auf Social-Media-Plattformen unterstützen, stellt jedoch keine vollständige Lösung für diese komplexen Herausforderungen dar. Dies wurde während einer Diskussionsrunde von MediaNama deutlich.

Die Diskussionsteilnehmer betonten, dass Plattformen zunehmend auf KI-Klassifikatoren und Empfehlungssysteme setzen. Sie argumentierten jedoch, dass diese automatisierten Systeme oft Schwierigkeiten haben, den Kontext oder die Absicht hinter den Inhalten zu erfassen. Als Beispiel wurde ein Satz genannt, der je nach Gesprächsumfeld unterschiedlich interpretiert werden kann, was eine rein automatisierte Moderation unzureichend macht.

Die Inhaltsmoderation erfolgt derzeit auf zwei Ebenen: automatisierten Systemen und menschlicher Überprüfung. Viele Plattformen setzen auch auf Strategien zur Einschränkung der Reichweite von Inhalten, oft als „Shadow Banning“ bezeichnet, anstatt diese vollständig zu entfernen. KI ist zwar gut darin, Muster zu erkennen und große Datenmengen schnell zu klassifizieren, aber komplexe Fälle erfordern weiterhin menschliche Moderatoren.

Die Sprecher wiesen auch auf die Grenzen von KI bei der Bewältigung sprachlicher Asymmetrie und Nuancen hin, insbesondere in mehrsprachigen Umgebungen wie Indien. Obwohl KI bestimmte Arten schädlicher Inhalte identifizieren kann, führen die probabilistischen Ergebnisse oft zu Unsicherheiten, was zu Spannungen mit Regulierungsbehörden führt, die absolute Gewissheit erwarten.