Le Conseil de surveillance demande à Meta de réduire les seuils d'étiquetage IA et d'augmenter les sanctions

Le Conseil de surveillance de Meta a annulé la décision de l'entreprise de laisser en ligne une vidéo générée par IA et contenant des discours de haine visant les réfugiés. Le conseil a ordonné la suppression de la vidéo le 17 septembre, et a également demandé à Meta de réduire le seuil d'application des étiquettes "à haut risque" pour les médias manipulés, d'implémenter un écran de confirmation avant que les utilisateurs ne voient ce contenu, et de pénaliser les comptes qui le partagent de manière répétée.

Le conseil a estimé que les critères de Meta pour son étiquette "IA à haut risque" étaient excessivement élevés, notant que les étiquettes n'avaient été appliquées qu'à une échelle minime. Il a également critiqué les directives d'application de Meta concernant les discours de haine comme étant "trop mécaniques", se concentrant sur la grammaire plutôt que sur l'intention ou le préjudice potentiel.

La vidéo, publiée en novembre 2025, montrait un conseiller travailliste écossais tenant des propos incendiaires sur les réfugiés. Meta avait initialement conclu que la vidéo ne violait pas ses normes communautaires et ne nécessitait pas d'étiquette IA, malgré les signalements d'utilisateurs et les appels. Le Conseil de surveillance avait attiré l'attention de Meta sur cette affaire.

Meta est maintenant invitée à étendre l'application des étiquettes "à haut risque" au-delà des mesures de crise ou d'intégrité électorale, en exigeant un écran intermédiaire pour les spectateurs et en imposant des sanctions telles que la démonétisation ou le retrait des recommandations pour les récidivistes. Le conseil a également demandé des règles applicables mondialement, une transparence accrue sur l'utilisation des étiquettes et l'accès des chercheurs aux bibliothèques de contenu.

Le conseil a rejeté la justification de Meta pour avoir autorisé la vidéo, déclarant que l'absence de crise n'annulait pas le potentiel du contenu à tromper le public. Meta n'a pas pénalisé l'utilisateur pour ne pas avoir divulgué l'utilisation de l'IA, et l'entreprise a précédemment résisté aux recommandations du conseil visant à modifier son interprétation des déclarations relatives aux groupes comme discours de haine.