Meta attribue la suspension d'un compte Instagram à un outil d'IA

Meta Platforms, la société mère d'Instagram et de Facebook, a présenté une nouvelle explication concernant la récente et brève suspension du compte Instagram du groupe de protestation américain No Kings. L'entreprise attribue cette interruption à un système de sécurité automatisé qui a erronément signalé des activités liées à un outil d'IA nommé Claude, développé par Anthropic.

Le porte-parole de Meta, Andy Stone, a expliqué sur X le 19 octobre que l'outil Claude lisait les profils, les publications et les hashtags du groupe à une fréquence exceptionnellement élevée. Stone a déclaré que ces requêtes importantes et séquentielles sur une courte période ressemblaient à du trafic de bots automatisé, amenant les systèmes de sécurité de Meta à réagir par erreur.

Le compte No Kings a été désactivé en plein milieu de l'effort national du groupe pour encourager le vote anticipé lors des élections de mi-mandat américaines. Bien que la suspension n'ait duré qu'environ 90 minutes, le groupe a rapporté que ses administrateurs n'ont pas pu accéder au compte pendant quatre heures supplémentaires après sa restauration publique. La coalition a exigé que Meta explique cet incident et mette en œuvre des mesures pour éviter qu'il ne se reproduise.

Meta a précédemment fourni des versions divergentes de la situation, ce qui a engendré de la confusion. Malgré la correction de l'erreur, l'entreprise n'a pas précisé quel outil Claude a été utilisé ni par qui. Cet incident soulève des inquiétudes quant à la manière dont les systèmes automatisés peuvent causer des problèmes aux utilisateurs, en particulier aux groupes politiquement actifs durant des périodes critiques.