OpenAI apposera par défaut un filigrane aux sorties de ChatGPT dans l'UE

OpenAI commencera à appliquer automatiquement un filigrane aux textes générés par son service ChatGPT au sein de l'Union européenne, a annoncé l'entreprise. Cette décision fait suite à l'entrée en vigueur du règlement européen sur l'IA, qui exige que le contenu produit par l'intelligence artificielle soit identifiable. Bien que la fonctionnalité de filigranage soit disponible à l'échelle mondiale, elle ne sera pas activée par défaut en dehors de l'UE.

Le règlement européen sur l'IA, effectif depuis août, impose que le contenu généré par l'IA soit marqué d'une manière qui permette sa détection. La méthode propriétaire d'OpenAI, nommée textGrain, intègre des motifs imperceptibles dans le texte, qui peuvent être identifiés par un détecteur spécialisé. Cette approche vise à conférer une traçabilité au contenu généré par l'IA sans altérer significativement sa qualité pour le lecteur humain.

OpenAI prévoit d'accorder l'accès à son outil de détection textGrain à un groupe restreint de chercheurs et d'organisations. L'entreprise a également l'intention de mettre en place un processus permettant à d'autres entités de demander l'accès au fil du temps. Cependant, l'efficacité et la sécurité de ces technologies de filigranage restent sujettes à débat, car les méthodes existantes se sont avérées contournables avec un savoir-faire technique suffisant.

Le déploiement du filigranage par défaut dans l'UE souligne le paysage réglementaire croissant de l'intelligence artificielle et les défis auxquels les entreprises sont confrontées pour équilibrer la conformité et la faisabilité technologique. L'impact à long terme de cette mesure sur la génération et la détection de contenu par l'IA reste à déterminer.