Meta AI:n käyttäjätilien jäädytykset herättävät huolta yrityksissä

Meta, globaali teknologiayhtiö, on lisännyt merkittävästi tekoälyn käyttöä käyttäjätilien moderointiin. Yhtiö pyrkii siirtämään yli 90 prosenttia sisällön tarkistustehtävistä tekoälymalleille vuoden 2026 loppuun mennessä. Meta väittää, että sen uudet tekoälyjärjestelmät tekevät 13 prosenttia vähemmän virheitä ja tunnistavat 10 prosenttia enemmän rikkomuksia kuin ihmisarvioijat.

Metan riippumaton valvontaelin on kuitenkin kritisoinut yhtiön nykyistä järjestelmää, erityisesti tapauksissa, joissa tilit on jäädytetty virheellisesti. Raportin mukaan käyttäjillä on vähän mahdollisuuksia vaikuttaa päätökseen tai ymmärtää sen perusteita, etenkin kun ihmisen suorittamaa valvontaa ei ole käytetty edes valitusten käsittelyssä.

Useat väärin jäädytettyjen tilien käyttäjät ovat kertoneet, että heidän valituksensa on usein käsitellyt sama tekoäly, joka teki alkuperäisen päätöksen. Ihmisen apua on saanut yleensä vain median kautta yhteyttä ottamalla, ei virallisten valituslomakkeiden kautta.

Tämä kehitys on merkittävä huolenaihe yrityksille, jotka ovat riippuvaisia Metan alustoista, kuten Instagram-kaupoista tai Facebook-sivuista. Automaattinen päätöksenteko ilman selkeää ihmisvalvontaa voi johtaa yllättäviin ja haitallisiin tilanteisiin yritysten toiminnalle.

Ongelma ulottuu myös niihin yrityksiin, jotka itse kehittävät tekoälyratkaisuja asiakaspalveluun, palautuksiin tai tilipäätöksiin. Ne voivat kohdata samanlaisia suunnitteluhaasteita kuin Meta, jos ihmisen roolia päätöksenteossa ei huomioida riittävästi.