Fraunhofer kehitti ohjelmiston väärennetyn uutisoinnin automaattiseen tunnistukseen
Fraunhofer FKIE on kehittänyt uuden koneoppimiseen perustuvan työkalun, joka analysoi sosiaalisen median julkaisuja ja tunnistaa automaattisesti disinformaatiota. Ohjelmisto tunnistaa myös vihapuheen.
Saksa – Fraunhoferin tietoliikenteen, informaationkäsittelyn ja ergonomian instituutti FKIE on kehittänyt ohjelmiston, joka pyrkii torjumaan verkossa leviävää disinformaatiota. Työkalu analysoi sosiaalisen median julkaisuja, kuten Twitter-viestejä, ja tunnistaa automaattisesti väärennetyt uutiset ja valeuutiset koneoppimisen avulla.
Järjestelmä tarkastelee sekä julkaisujen sisältöä että metatietoja, kuten viestien julkaisutiheyttä ja käyttäjien verkostoja. Analyysi perustuu koneoppimismalleihin, jotka on opetettu tunnistamaan kielellisiä merkkejä, kuten poikkeavia sanamuotoja, kielioppivirheitä tai epätavallista välimerkkien käyttöä. Nämä tekijät voivat viitata siihen, että uutinen on manipuloitu tai perätön.
Professori Ulrich Schade ja hänen tutkimusryhmänsä ovat rakentaneet työkaluun oppimisjoukkoja, jotka koostuvat sekä luotettavista uutisista että käyttäjien ilmoittamista valeuutisista. Ohjelmisto pystyy myös tunnistamaan vihapuheen. Valeuutiset voivat sisältää vihapuhetta levittääkseen epäluuloa tai hyökätäkseen yksilöitä tai ryhmiä vastaan.
Fraunhofer FKIE:n kehittämää ohjelmistoa voidaan räätälöidä asiakkaiden tarpeisiin. Sitä voidaan käyttää esimerkiksi varhaisvaroitusjärjestelmänä viranomaisille tai yrityksille väärennetyn uutisoinnin ja disinformaation leviämisen torjumiseksi sosiaalisessa mediassa.