Tekoäly rajallisesti sisällön moderointiin ja ikärajojen vahvistukseen
Tekoäly voi auttaa sisällön moderointia ja ikärajojen vahvistusta, mutta ei ratkaise ongelmaa täysin, todettiin Medianaman pyöreän pöydän keskustelussa. Tekoälyjärjestelmät kamppailevat edelleen kontekstin ja tarkoituksen ymmärtämisen kanssa.
Medianama-median järjestämässä pyöreän pöydän keskustelussa todettiin, että tekoälyteknologia voi auttaa sisällön moderointia ja ikärajojen vahvistusta sosiaalisen median alustoilla, mutta se ei ole täydellinen ratkaisu.
Keskusteluun osallistuneiden mukaan tekoälyjärjestelmät, kuten luokittelijat ja suosittelualgoritmit, ovat jo laajasti käytössä. Ne eivät kuitenkaan pysty ymmärtämään tekstin tai kuvan kontekstia ja tarkoitusta. Esimerkiksi lause, joka voi olla huumoria tai viittaus populaarikulttuuriin, voi tekoälylle olla ongelmallista tulkita oikein.
Alustat käyttävät nykyään sisällön moderointiin kahta tasoa: automaattista moderointia ja ihmisarviointia. Yhä useammin alustat rajoittavat sisällön näkyvyyttä sen sijaan, että ne poistaisivat sen kokonaan. Tekoäly voi tunnistaa kuvioita ja luokitella sisältöä nopeasti, mutta monimutkaiset tapaukset vaativat edelleen ihmisarvioijien päätöksiä.
Osallistujat korostivat, että tekoälyn kyky ymmärtää kielen vivahteita ja monikielisten ympäristöjen, kuten Intian, haasteita on rajallinen. Vaikka tekoäly voi tunnistaa tiettyjä haitallisia aihealueita, sen toiminta ei ole aina ennustettavaa, mikä luo jännitteitä sääntelyviranomaisten kanssa, jotka odottavat varmoja ratkaisuja.