Meta a développé son propre système de détection d'IA ; aurait pu utiliser celui de Google

Meta Platforms a lancé en juillet Content Seal, une technologie propriétaire conçue pour appliquer un filigrane invisible aux images générées par ses modèles d'IA. L'entreprise affirme que le système vise à aider à freiner la propagation de contenus d'IA générative trompeurs sur ses plateformes.

La décision de développer son propre système fait suite à un appel de mars du conseil de surveillance de Meta, qui a exhorté l'entreprise à utiliser ses propres outils pour lutter contre la prolifération de contenus trompeurs générés par IA. Content Seal a été annoncé dans le cadre du lancement des nouveaux outils d'IA Muse de Meta pour la génération d'images et de vidéos.

Cependant, les observateurs de l'industrie expriment des doutes quant à l'efficacité et à la fiabilité de Content Seal. The Verge a noté que le système semble moins accessible et moins fiable par rapport aux solutions établies. Le système SynthID de Google, lancé précédemment, est considéré comme une technologie plus robuste et éprouvée dans ce domaine.

De plus, des normes industrielles telles que C2PA Content Credentials offrent des cadres existants pour la provenance du contenu. Le choix de Meta de développer un système propriétaire potentiellement moins mature soulève des questions sur son approche en matière de responsabilité pour le contenu généré par IA.

Meta n'a pas encore fourni de détails techniques approfondis sur Content Seal ou son implémentation. L'efficacité réelle du système pour l'étiquetage et la détection de contenu généré par IA à grande échelle demeure incertaine.