CrePal: Tekoälyn kuvasta videoksi -työkalujen käyttökypsyysarviointi

CrePalin tuoreessa artikkelissa syvennytään tekoälyn (AI) kuvasta videoksi -teknologian (image-to-video) käyttöön, erityisesti kun kyse on epäsovinnaisesta eli NSFW (Not Safe For Work) -sisällöstä.

Artikkelin mukaan teknologia itsessään toimii samalla periaatteella riippumatta sisällön luonteesta. Haasteet syntyvät alustojen moderointikäytännöistä ja siitä, miten ne tulkitsevat sekä lähtökuvan että pyydetyn animaation. CrePalin tutkija Dora selventää, että "NSFW AI image-to-video" viittaa usein työskentelytapaan, jossa animoidaan kuvia, jotka luokitellaan aikuisille suunnatuiksi tai paljaiksi.

Tyypillisesti kuvasta videoksi -prosessissa on useita tarkistuspisteitä. Ensimmäinen on lähtökuvan analyysi, jossa etsitään esimerkiksi laitonta materiaalia. Toinen tarkistuspiste liittyy liikemäärittelyihin. Esimerkiksi brittiläisen Runway-palvelun käytäntöjen mukaan seksuaalisesti eksplisiittisen sisällön tuottaminen on kiellettyä, vaikka lähtökuva olisikin läpäissyt tarkistuksen. Liikemäärittelyn tarkoitus voi laukaista suodattimia.

CrePal korostaa, että kaupalliset alustat suorittavat usein vähintään kaksi moderointikierrosta: syötteen tarkistuksen ja tulosteen tarkistuksen. Tämä johtuu siitä, että animaatioprosessi voi tuottaa lopputuloksia, joita ei ollut odotettavissa lähtökuvan perusteella. Kaikilla alustoilla, kuten myös Stability AI:n käytäntöjen mukaan, alaikäisten seksualisointiin liittyvä sisältö on ehdottomasti kielletty kaikissa vaiheissa.

Artikkelissa pyritään tarjoamaan selkeä kuva teknologiasta ja sen rajoituksista ilman markkinointihypeä. Se neuvoo luojia vertaamaan lähtökuvaa ja animoitua lopputulosta esimerkiksi identiteetin, iän tai kohtauksen intensiteetin muutosten varalta varmistaakseen käytäntöjen noudattamisen.