Meta utvecklade eget AI-detekteringssystem – hade kunnat använda Googles

Meta Platforms har i juli lanserat en egen identifieringsteknik för AI-genererat innehåll kallad Content Seal. Systemets syfte är att osynligt vattenmärka bilder som skapats av Metas egna AI-modeller. Detta ska enligt företaget bidra till att begränsa spridningen av vilseledande AI-genererat material på dess plattformar.

Beslutet att utveckla ett eget system kommer efter att Metas oberoende tillsynsstyrelse i mars uppmanade företaget att använda egna verktyg för att hantera spridningen av potentiellt vilseledande generativt AI-innehåll. Content Seal presenterades i samband med lanseringen av Metas nya verktyg för bild- och videogenerering, Muse.

Branschexperter har dock uttryckt skepsis kring Content Seals effektivitet och tillförlitlighet. The Verge har påpekat att systemet framstår som mindre tillgängligt och pålitligt jämfört med befintliga lösningar. Googles SynthID-system, som lanserades tidigare, anses vara en mer etablerad och robust lösning.

Dessutom finns det standardiserade metoder för innehållsverifiering, såsom C2PA Content Credentials, som redan är etablerade på marknaden. Metas val att utveckla en egen, potentiellt mindre beprövad, lösning ifrågasätts därför.

Detaljerad information om Content Seals tekniska specifikationer och hur det implementeras har inte offentliggjorts av Meta. Det är oklart hur effektivt systemet kommer att vara för att identifiera och märka AI-genererat innehåll i stor skala.