Meta poisti tekoälyllä luotua haitallista sisältöä mainoksista viiveellä
Meta poisti viiveellä Facebookin ja Instagramin mainoksia, jotka sisälsivät tekoälyllä luotua lapsiin kohdistuvaa seksuaalista hyväksikäyttömateriaalia, vaikka osa sisälsi kuvia oikeista lapsista.
Meta Platforms poisti Facebookin ja Instagramin mainoksia, jotka sisälsivät tekoälyllä luotua lapsiin kohdistuvaa seksuaalista hyväksikäyttömateriaalia (CSAM) huomattavan viiveen jälkeen. Teknologian läpinäkyvyysprojektin (TTP) tiistaina julkaistun tutkimuksen mukaan Meta ei havainnut 332 CSAM-sisältöä sisältävää mainosta tänä vuonna.
Määräenemmistö mainoksista mainosti Kiinassa valmistettuja tekoälysovelluksia, joista monet olivat niin kutsuttuja "nudify"-sovelluksia. Nämä sovellukset mahdollistavat helpon digitaalisen kuvien muokkaamisen, mukaan lukien lasten kuvien muuntamisen seksuaalissävytteiseksi materiaaliksi.
TTP yhdisti useita CSAM-mainoksia oikeiden lasten kuviin, jotka olivat aiemmin julkisesti saatavilla verkossa. Tällainen materiaali rikkoo liittovaltion lasten hyväksikäyttöä koskevia lakeja, sillä Yhdysvaltain oikeusministeriö on todennut tekoälyn avulla luodun CSAM-materiaalin olevan yhtä haitallista kuin perinteisen.
Tutkimuksessa raportoitiin, kuinka erään eurooppalaisen kuninkaallisen lapsen valokuvaa käytettiin "graafisen seksuaaliteon esittävään videoon" animoituna. Toinen mainos muokkasi teini-ikäisen Instagram-vaikuttajan kuvaa suuseksivideoon, ja kolmas tapaus koski lapsihahmoa, jonka kuvia muutettiin seksuaalissävytteiseksi materiaalikiksi.