L'outil de détection d'images IA de Meta échoue sur des images rognées

Le nouvel outil de Meta Platforms destiné à la détection d'images générées par intelligence artificielle présente des limites notables, selon des résultats de tests révélés par Reuters. L'outil a eu du mal à identifier les images produites par le propre modèle Muse Image de Meta lorsque celles-ci étaient rognées.

Meta a introduit le modèle Muse Image en même temps que l'outil de détection, affirmant qu'il pouvait reconnaître le contenu généré par Meta AI même après le recadrage des images. Cependant, les tests de Reuters ont démontré que les opérations d'édition courantes pouvaient affaiblir la capacité de détection.

Reuters a généré 40 images à l'aide de Muse Image. L'outil de détection a correctement identifié toutes les images originales. Lorsque les mêmes images ont été rognées à environ un tiers à la moitié de leur taille d'origine, 55 % des images n'ont pas pu être vérifiées comme étant générées par IA.

Le modèle Muse Image intègre un filigrane invisible appelé Content Seal dans chaque image générée. Meta a indiqué sur son site web que l'outil de détection peut confirmer si une image a été générée par les modèles IA de Meta grâce à ce système de filigrane, même après recadrage.

En réponse aux découvertes de Reuters, Meta a souligné que l'outil de détection est encore en version préliminaire. L'entreprise a reconnu que, bien que Content Seal soit conçu pour conserver son signal à travers des modifications courantes, un recadrage important pouvait toujours entraîner la perte du signal.