Meta AI -kuvantunnistustyökalu epäonnistui rajatuissa testeissä
Metan uusi tekoälykuvien tunnistustyökalu on osoittautunut rajoittuneeksi. Reutersin tekemissä testeissä työkalu ei tunnistanut Meta AI:n omalla mallilla luotuja kuvia, jos ne oli leikattu.
Meta Platforms -yhtiön julkaisema tekoälykuvien tunnistustyökalu ei toimi odotetusti kaikissa tilanteissa, selvisi Reutersin tekemässä testissä. Työkalu epäonnistui tunnistamaan osaa Metan omalla Muse Image -mallilla luoduista kuvista sen jälkeen, kun niitä oli leikattu.
Meta esitteli sekä Muse Image -mallin että tunnistustyökalun samanaikaisesti. Yhtiö väitti työkalun tunnistavan tekoälyn luoman sisällön jopa kuvien rajaamisen jälkeen. Reutersin testitulokset kuitenkin osoittivat, että tavanomaiset muokkaustoimet voivat heikentää Meta AI:n tunnistuskykyä.
Reuters käytti Muse Image -mallia 40 kuvan luomiseen. Tunnistustyökalu tunnisti kaikki alkuperäiset kuvat onnistuneesti. Kun samat kuvat rajattiin noin kolmasosaan tai puoleen alkuperäisestä koosta, jopa 55 prosenttia kuvista jäi tunnistamatta.
Muse Image luo jokaiseen kuvaan näkymättömän vesileiman nimeltä Content Seal. Meta on kertonut verkkosivuillaan, että tunnistustyökalu voi varmistaa kuvien tekoälyperäisyyden tämän vesileimajärjestelmän avulla, vaikka kuvaa olisi rajattu.
Meta kommentoi Reutersin tuloksia toteamalla, että tunnistustyökalu on vielä esittelyversiossa. Yhtiön mukaan Content Seal -järjestelmä on suunniteltu säilyttämään vesileiman signaalin yleisten muokkausten jälkeen, mutta merkittävä rajaus voi silti johtaa signaalin katoamiseen.