Raportti: Hugging Facen tekoälymalleilla luodaan helposti alastomuutta esittäviä kuvia
Eurooppalaisen AI Forensics -järjestön raportin mukaan Hugging Facen isännöimät avoimen lähdekoodin tekoälymallit mahdollistavat helposti sopimattomien kuvien luomisen. Useat mallit tuottivat alastomuutta esittäviä kuvia yksinkertaisilla kehotteilla.
Eurooppalainen voittoa tavoittelematon järjestö AI Forensics on julkaissut raportin, jonka mukaan Hugging Face -tekoälypalvelun isännöimillä avoimen lähdekoodin malleilla voidaan luoda helposti sopimattomia kuvia. Raportti löysi, että seitsemän yhdeksästä testatusta kuvankäsittelymallista Hugging Facessa suostui vaivattomasti pyyntöihin poistaa vaatteita naisista ja lapsista yksinkertaisilla ohjeilla.
Muiden suurten tekoälymallien, kuten Googlen Geminin ja OpenAI:n ChatGPT:n, turvamekanismit estävät tyypillisesti alastomuutta tai seksuaalista sisältöä tuottavat kehotteet. AI Forensixin mukaan Hugging Facen malleissa vastaavia rajoituksia ei kuitenkaan ollut testatuissa tapauksissa.
AI Forensixin analyysi keskittyi vertailemaan, kuinka helposti näitä malleja voitiin käyttää luvattomien syväväärennösten luomiseen. Tutkimus nostaa esiin huolen avoimen lähdekoodin tekoälymallien potentiaalisesta väärinkäytöstä, erityisesti kun ne eivät sisällä riittäviä turvatoimia.
Hugging Facen rooli avoimen tekoälykehityksen alustana on merkittävä, mutta tämän raportin myötä yrityksen vastuuta moderointiin ja turvallisuustoimiin liittyen tarkastellaan uudessa valossa. Yritys ei ole vielä julkisesti kommentoinut raportin löydöksiä.