MIT-studie: Svårt att spåra AI-genererade bilder till enskilda källor
Ny MIT-forskning visar att det är svårt att spåra ursprunget till bilder skapade av AI-modeller tränade på stora datamängder till enskilda träningsdata. Fenomenet kan påverka upphovsrättsfall.
En ny studie från Massachusetts Institute of Technology (MIT) utmanar uppfattningar kring upphovsrätt för AI-genererade bilder. Forskningen tyder på att det blir allt svårare att härleda bilder skapade av AI-modeller, som tränats på omfattande datamängder, till enskilda ursprungliga verk.
Forskarna Zheng Dai och David Gifford fann att ju större träningsdatasetet är, desto svårare blir det att bevisa att en specifik bild har haft en avgörande inverkan på slutresultatet. De upptäckte att borttagandet av en enskild bild från träningsdatan ofta inte påverkade modellens nygenererade bild nämnvärt. Forskarna kallar detta fenomen för "härledbarhetssvikt" (attribution decay).
Denna upptäckt kan komplicera rättsfall där AI anklagas för att kopiera konstnärers verk. Även om en AI-genererad bild kan likna en specifik konstnärs stil, antyder den nya studien att det inte nödvändigtvis finns ett direkt orsakssamband som kopplar den skapade bilden till ett specifikt verk i träningsdatan.
Forskarna tror att fenomenet beror på att stora datamängder innehåller mycket visuell redundans. Många olika bilder delar liknande drag, vilket gör att ingen enskild bild är oersättlig för "DNA:t" i en AI-genererad bild. Även om forskarna presenterar detta som sin starkaste förklaring, betonar de att det för närvarande är en hypotes snarare än ett direkt bevisat faktum.