Meta AI:s verktyg för bildidentifiering misslyckades i begränsade tester
Metas nya verktyg för att identifiera AI-genererade bilder har visat sig vara begränsat. I tester utförda av Reuters kunde verktyget inte känna igen bilder skapade med Metas egen AI-modell om de hade beskurits.
Metas nyligen lanserade verktyg för att identifiera AI-genererade bilder har uppenbara begränsningar, enligt tester som nyhetsbyrån Reuters har genomfört. Verktyget misslyckades med att identifiera vissa bilder som skapats med Metas egen Muse Image-modell efter att de hade beskurits.
Meta introducerade Muse Image-modellen tillsammans med verktyget och hävdade att det skulle kunna identifiera innehåll skapat av Meta AI även efter att bilder hade bearbetats, inklusive beskärning. Reuters tester visade dock att vanliga bildredigeringsåtgärder kan försvaga verktygets detektionsförmåga.
Reuters använde Muse Image för att generera 40 bilder. Verktyget identifierade alla originalbilder korrekt. Men när samma bilder beskars till ungefär en tredjedel till hälften av sin ursprungliga storlek, kunde 55 procent av bilderna inte verifieras som AI-genererade.
Muse Image bäddar in en osynlig vattenstämpel kallad Content Seal i varje genererad bild. Meta har uppgett på sin webbplats att deras detektionsverktyg kan bekräfta om en bild är genererad av Metas AI-modeller, även efter beskärning, genom detta vattenstämpelsystem.
Meta svarade på Reuters testresultat genom att betona att verktyget fortfarande är i förhandsversion. Företaget medgav att även om Content Seal är utformat för att behålla vattenstämpelsignalen efter vanliga redigeringar, kan signalen gå förlorad vid omfattande beskärning.