Meta gibt KI-Tool die Schuld für fehlerhafte Instagram-Sperrung

Meta Platforms, das Mutterunternehmen von Instagram und Facebook, hat eine neue Erklärung für die kürzlich erfolgte, kurzzeitige Sperrung des Instagram-Kontos der US-Protestgruppe No Kings vorgelegt. Das Unternehmen machte ein automatisiertes Sicherheitssystem dafür verantwortlich, das fälschlicherweise Aktivitäten im Zusammenhang mit einem KI-Tool namens Claude, entwickelt von Anthropic, markierte.

Meta-Sprecher Andy Stone erklärte am 19. Oktober über X, dass das Claude-Tool die Profile, Beiträge und Hashtags der Gruppe mit außergewöhnlich hoher Rate las. Stone gab an, dass diese großen, sequenziellen Anfragen in kurzer Zeit automatisiertem Bot-Traffic ähnelten, was Metas Sicherheitssysteme zu einer fehlerhaften Reaktion veranlasste.

Das Konto von No Kings wurde mitten in den landesweiten Bemühungen der Gruppe zur Förderung der Frühwahl im Rahmen der US-Zwischenwahlen deaktiviert. Obwohl die Sperrung nur etwa 90 Minuten dauerte, berichtete die Gruppe, dass ihre Administratoren weitere vier Stunden nach der öffentlichen Wiederherstellung keinen Zugriff auf das Konto hatten. Die Koalition forderte Meta auf, den Vorfall zu erklären und Maßnahmen zur Verhinderung einer Wiederholung zu ergreifen.

Meta hat zuvor unterschiedliche Darstellungen der Situation geliefert, was zu Verwirrung führte. Trotz der Korrektur des Fehlers hat das Unternehmen nicht spezifiziert, welches Claude-Tool verwendet wurde oder von wem. Der Vorfall unterstreicht die Bedenken hinsichtlich der Art und Weise, wie automatisierte Systeme Probleme für Benutzer verursachen können, insbesondere für politisch aktive Gruppen in kritischen Zeiten.