Le filigrane SynthID de Google difficile à casser, mais ne résout pas la désinformation par IA

La technologie de filigranage SynthID de Google, conçue pour identifier le contenu généré par l'IA, s'est avérée difficile à casser. Bien que cette technologie puisse aider à distinguer les matériaux numériquement manipulés ou créés du contenu authentique, sa capacité à résoudre le problème de la désinformation pilotée par l'IA est considérée comme limitée.

Les estimations suggèrent que l'IA a révolutionné la vitesse de création de contenu. Selon Starling Lab, une collaboration de recherche entre la Stanford University et l'University of Southern California, l'IA n'a eu besoin que de 18 mois pour générer 1,5 milliard d'images, une prouesse qui a nécessité 149 ans pour la photographie.

Google a annoncé plus tôt cette année que ses outils ont été utilisés pour produire plus de 100 milliards d'images et de vidéos IA en seulement quelques années. L'entreprise a étendu l'utilisation de sa technologie SynthID par le biais de divers partenariats.

La technologie vise à établir une norme pour l'étiquetage des médias générés par l'IA. Cependant, les chercheurs avertissent qu'un simple filigrane pourrait ne pas suffire à empêcher la diffusion de contenu manipulé et à atténuer ses dommages potentiels.