Tutkijat: Treffisovellusten huijauksissa käytetään tekoälyääniä
Turvallisuustutkijat ovat tunnistaneet uuden tekoälyä hyödyntävän huijausaalon treffisovelluksissa. Dora-nimisen huijasovelluksen havaittiin käyttävän synteettisiä ääniä esiintyäkseen ihmishahmona.
Huijarit käyttävät nyt tekoälyä luodakseen kehittyneitä petosjärjestelmiä treffisovelluksissa, kertoo turvallisuustutkija Matthew Gore-Kormanikin analyysi.
Tutkiessaan Dora-nimistä huijasovellusta Gore-Kormanik sai simuloidun puhelun Jennifer-nimiseltä henkilöltä. Profiili kuvasi Jenniferiä 41-vuotiaana jousimiehenä tietyillä fyysisillä ominaisuuksilla ja kiinnostuksen kohteilla. Videopuheluun vastatessaan Gore-Kormanik näki kuitenkin vain liikkuvan kuvakudoksen ja kuuli vääristynyttä taustamelua, eikä Jenniferiä näkynyt.
Epäonnistuneen puhelun jälkeen huijari, esiintyen Jenniferinä, lähetti viestin, jossa kommentoitiin positiivisesti vuorovaikutusta ja Gore-Kormanikin ääntä. Tämä viittaa siihen, että tekoälyä käytettiin paitsi äänen luomiseen myös keskustelujen muotoiluun.
Löydös korostaa kasvavaa trendiä, jossa tekoälyteknologiaa käytetään petollisiin tarkoituksiin. Huijaukset ovat siirtyneet yksinkertaisista tekstipohjaisista huijauksista immersiivisempiin, ääntä hyödyntäviin esiintymisiin. Tapaus herättää huolta verkkohuijausten kasvavasta kehittyneisyydestä ja tekoälyn mahdollisesta pahantahtoisesta käytöstä.