Oversight Board kritisoi Metan tekoälymerkintöjä ja kehottaa tiukempiin sääntöihin

Meta Oversight Board kumosi 17. syyskuuta Metan päätöksen jättää poistamatta tekoälyn luoma video, joka sisälsi vihapuhetta pakolaisista. Lautakunta määräsi videon poistettavaksi ja kehotti yhtiötä alentamaan "korkean riskin" manipuloitua mediaa koskevien merkintöjen raja-arvoja, lisäämään klikattavan varoituksen ennen sisällön näyttämistä ja rankaisemaan tilejä, jotka jakavat tällaista sisältöä toistuvasti.

Lautakunnan mukaan Metan "korkean riskin tekoäly" -merkinnän soveltamiselle asettamat kriteerit ovat kohtuuttoman korkeat. Sen mukaan merkinnät ovat käytännössä koskettaneet vain pientä osaa sisällöstä. Lautakunta totesi myös Metan ohjeistuksen vihapuheeseen liittyen olevan "liian mekaaninen", keskittyen enemmän kielioppiin kuin tarkoitukseen tai haittojen todennäköisyyteen.

Marraskuussa 2025 julkaistussa videossa skotlantilainen poliitikko esiintyi väittäen, että pakolaiset ovat tervetulleita, vaikka he raiskaisivat, koska myös valkoiset ihmiset tekevät niin. Meta oli alun perin katsonut, ettei video rikkonut sen yhteisösääntöjä eikä vaatinut tekoälymerkintää, vaikka kaksi käyttäjää oli raportoinut sen liittyvän häirintään. Lautakunta toi tapauksen Metan tietoisuuteen.

Metaa kehotetaan alentamaan "korkean riskin" merkintöjen soveltamisen kynnystä, lisäämään käyttäjille varoituksia ennen manipuloituun tai tekoälyn luomaan sisältöön pääsyä ja määräämään seuraamuksia, kuten sisällön poistamista suosituksista tai demonetisointia, toistuville rikkojille. Lautakunta vaati myös, että sääntöjä sovelletaan maailmanlaajuisesti ja että Meta julkaisee vuosittain tietoja merkintöjen käytöstä sekä avaa arkistojaan tutkijoiden käyttöön.

Lautakunta torjui Metan puolustelun, jonka mukaan videon salliminen oli perusteltua, koska kyseessä ei ollut kriisi tai vaalien lähestyminen. Lautakunnan mukaan tämä ei vähennä sisällön kykyä pettää yleisöä. Yhtiö ei myöskään rankaissut käyttäjää tekoälyn käytön ilmoittamatta jättämisestä, ja Meta on aiemmin torjunut lautakunnan suosituksen muuttaa tapaansa tulkita ryhmiä koskevia väitteitä vihapuheena.