Les blocages de comptes par l'IA de Meta soulèvent des préoccupations pour les entreprises

Meta augmente considérablement son recours à l'intelligence artificielle (IA) pour la modération des comptes utilisateurs. L'entreprise vise à transférer plus de 90 % de ses tâches de révision de contenu à des modèles d'IA d'ici la fin de 2026. Meta affirme que ses nouveaux systèmes d'IA commettent 13 % moins d'erreurs et détectent 10 % de violations supplémentaires par rapport aux réviseurs humains.

Cependant, le Conseil de surveillance indépendant de Meta a critiqué le système actuel de l'entreprise, en particulier dans les cas de blocages de comptes erronés. Le conseil a constaté que les utilisateurs disposent de peu de recours ou de visibilité sur la manière dont les décisions sont prises, notant un manque de surveillance humaine même dans les appels concernant des comptes suspendus à tort.

Les utilisateurs ayant subi des blocages injustifiés ont signalé que leurs appels étaient souvent examinés par la même IA qui avait pris la décision initiale. L'intervention humaine n'a généralement été obtenue qu'en contactant le service de presse de Meta, et non par le biais du processus d'appel standard de la plateforme.

Cette évolution constitue une préoccupation majeure pour les entreprises qui dépendent des plateformes de Meta, telles que les boutiques Instagram ou les pages Facebook. La prise de décision automatisée, sans surveillance humaine claire, pourrait entraîner des perturbations inattendues et préjudiciables pour leurs opérations.

Le problème s'étend également aux entreprises qui développent leurs propres solutions d'IA pour le support client, les remboursements ou les décisions relatives aux comptes, car elles pourraient être confrontées à des défis de conception similaires si l'élément humain n'est pas adéquatement intégré au processus décisionnel.