Anthropic détaille le fonctionnement des filigranes textuels invisibles de Claude
Anthropic a expliqué comment son IA Claude implémentera des filigranes textuels invisibles pour se conformer aux réglementations européennes sur la transparence de l'IA.
La société d'intelligence artificielle Anthropic a précisé la méthode qu'elle utilisera pour intégrer des filigranes invisibles dans le texte généré par son IA Claude. Cette initiative vise à répondre aux exigences de transparence imposées par le règlement européen sur l'IA, qui concerne l'identification des contenus synthétiques.
Anthropic a annoncé vendredi que le système de marquage textuel de Claude utilise "une version de l'approche SynthID-Text". Cette technologie de filigranage open-source, développée par Google DeepMind, crée des motifs détectables en analysant les probabilités de mots dans le texte généré.
En plus du filigranage textuel, Claude prendra également en charge la norme C2PA pour le traitement d'images. Ces fonctionnalités sont introduites pour satisfaire aux obligations d'Anthropic en vertu du règlement européen sur l'IA. La réglementation impose que les contenus audio, image, vidéo et texte synthétiques doivent comporter des marques lisibles par machine.
La technologie est conçue pour permettre aux utilisateurs et aux régulateurs de distinguer le contenu généré par l'IA du contenu créé par l'homme. Les filigranes sont destinés à être imperceptibles lors de la lecture normale et à ne pas affecter la qualité du texte, tout en étant détectables par des outils d'analyse spécialisés.