Une étude du MIT remet en question la traçabilité des images générées par IA

Une nouvelle étude du Massachusetts Institute of Technology (MIT) remet en question les notions existantes de droits d'auteur pour l'imagerie générée par intelligence artificielle. Les chercheurs ont constaté qu'à mesure que les ensembles de données d'entraînement pour les modèles d'IA s'agrandissent, il devient de plus en plus difficile d'attribuer les images générées à des œuvres originales spécifiques.

Les chercheurs du MIT, Zheng Dai et David Gifford, ont découvert que plus le jeu de données d'entraînement est vaste, plus il est difficile de prouver qu'une seule donnée a influencé de manière significative le résultat final. Ils ont observé que la suppression d'une image individuelle des données d'entraînement n'avait souvent que peu ou pas d'impact discernable sur les images nouvellement générées par le modèle. Les chercheurs appellent ce phénomène « déclin d'attribution » (attribution decay).

Cette découverte pourrait compliquer les affaires judiciaires où l'IA est accusée de copier le travail d'artistes. Même si une image générée par IA peut ressembler au style d'un artiste spécifique, cette nouvelle recherche suggère qu'il n'y a pas nécessairement de lien de causalité direct reliant l'image créée à une pièce particulière des données d'entraînement.

Les chercheurs émettent l'hypothèse que cela se produit parce que les grands ensembles de données contiennent une redondance visuelle substantielle. De nombreuses images différentes partagent des caractéristiques qui se chevauchent, ce qui signifie qu'aucune image unique n'est irremplaçable pour l'« ADN » d'une image générée par IA. Bien qu'ils présentent cela comme leur meilleure explication, ils soulignent qu'il s'agit actuellement d'une conjecture plutôt que d'un fait directement prouvé.