Metas KI-Kontosperren werfen Fragen für Unternehmen auf

Meta setzt verstärkt auf künstliche Intelligenz (KI) zur Moderation von Nutzerkonten. Das Unternehmen strebt an, bis Ende 2026 über 90 Prozent seiner Inhaltsüberprüfungsaufgaben auf KI-Modelle zu übertragen. Meta gibt an, dass seine neuen KI-Systeme 13 Prozent weniger Fehler machen und 10 Prozent mehr Verstöße erkennen als menschliche Prüfer.

Das unabhängige Aufsichtsgremium von Meta hat jedoch das derzeitige System des Unternehmens kritisiert, insbesondere bei fehlerhaften Kontosperrungen. Das Gremium stellte fest, dass Nutzer wenig Möglichkeiten haben, Einfluss auf Entscheidungen zu nehmen oder deren Grundlagen zu verstehen, und bemängelte das Fehlen menschlicher Aufsicht selbst bei der Bearbeitung von Beschwerden.

Mehrere Nutzer, deren Konten zu Unrecht gesperrt wurden, berichteten, dass ihre Beschwerden oft von derselben KI bearbeitet wurden, die die ursprüngliche Entscheidung getroffen hatte. Menschliche Intervention wurde in der Regel nur durch Kontaktaufnahme mit dem Pressteam von Meta erreicht, nicht über die offiziellen Beschwerdeverfahren.

Diese Entwicklung ist ein erhebliches Anliegen für Unternehmen, die von Metas Plattformen wie Instagram-Shops oder Facebook-Seiten abhängig sind. Automatisierte Entscheidungsfindung ohne klare menschliche Aufsicht kann zu unerwarteten und schädlichen Störungen ihres Betriebs führen.

Das Problem erstreckt sich auch auf Unternehmen, die eigene KI-Lösungen für Kundensupport, Rückerstattungen oder Kontoentscheidungen entwickeln. Diese könnten mit ähnlichen Designherausforderungen konfrontiert werden, wenn der menschliche Faktor im Entscheidungsprozess nicht ausreichend berücksichtigt wird.