Anthropic ajoute des filigranes au contenu de Claude face à la prolifération des deepfakes

La société d'intelligence artificielle Anthropic a annoncé qu'elle ferait des filigranes lisibles par machine une fonctionnalité par défaut dans tous ses produits Claude à travers le monde. Cette mesure répond aux préoccupations croissantes concernant la prolifération des deepfakes et d'autres contenus générés par l'IA, qui compliquent la distinction entre informations authentiques et synthétiques.

La nouvelle politique s'appliquera aux modèles Claude lancés dans l'Union européenne le 2 août 2026 ou après, les anciens modèles bénéficiant d'un support pendant une période de transition. Les filigranes sont des marqueurs cachés, lisibles par machine mais non directement visibles par l'œil humain, conçus pour persister avec le contenu indépendamment de son utilisation ultérieure. Pour l'audio, les images et d'autres types de fichiers, Anthropic prévoit d'utiliser des métadonnées signées, en plus des filigranes textuels intégrés, conformément à la norme C2PA.

Les concurrents tels que Google ont déjà introduit des technologies similaires. Le système SynthID de Google applique des filigranes aux textes, images et sons générés par son modèle Gemini. OpenAI avait précédemment développé un outil de filigranage mais ne l'a pas déployé dans ChatGPT, citant des préoccupations concernant de potentielles fausses accusations et les réactions des utilisateurs. Anthropic reconnaît qu'un filigrane n'est pas une preuve concluante de génération par IA, car le contenu peut être modifié après coup.

Selon Amitabh Kumar, PDG de Contrails AI, la mise en œuvre des filigranes est une exigence minimale, mais il souligne que l'approche actuelle présente des lacunes. Des détails restent flous concernant la persistance des filigranes dans les copies numériques et la disponibilité d'outils de détection pour les tiers. En Inde, les deepfakes ont déjà causé des dommages considérables, notamment des vidéos fabriquées de personnalités politiques lors des élections et une augmentation des fraudes financières.

Il reste incertain si la solution d'Anthropic parviendra à éviter les défis rencontrés par ses concurrents. L'efficacité des filigranes dépend d'outils de détection ouverts, de l'interopérabilité entre les normes et de la manière dont les entreprises considéreront ce marquage – plus qu'une simple case à cocher pour la conformité. Anthropic s'est engagé à partager des conseils techniques sur son approche, et l'industrie observera la rapidité avec laquelle ces promesses se traduiront par des marquages fonctionnels.