Forskare: AI-genererade röster används i bedrägeriappar för dejting
Säkerhetsforskare har identifierat en ny våg av bedrägerier i dejtingappar som utnyttjar AI-genererade röster. En bedräglig app vid namn Dora visade sig använda syntetiskt ljud för att imitera en person.
Bedragare använder nu artificiell intelligens för att skapa sofistikerade bedrägerier i dejtingappar, enligt en ny analys av säkerhetsforskaren Matthew Gore-Kormanik.
Under undersökningen av en bedräglig dejtingapp identifierad som Dora, fick Gore-Kormanik ett simulerat samtal från en person vid namn Jennifer. Profilen beskrev Jennifer som en 41-årig skytt med specifika fysiska attribut och angivna intressen. Vid besvarande av videosamtalet observerade Gore-Kormanik dock endast en rörlig gobeläng och hörde förvrängt bakgrundsljud, utan någon visuell representation av Jennifer.
Efter det misslyckade samtalet skickade bedragaren, utgiven för att vara Jennifer, ett meddelande som positivt kommenterade interaktionen och Gore-Kormaniks röst. Detta tyder på att AI inte bara användes för att generera rösten utan även för att utforma konversationella svar.
Upptäckten belyser en ökande trend där AI-teknik används för bedrägliga ändamål, och rör sig bortom enkla textbaserade bedrägerier till mer uppslukande ljudbaserade imitationer. Incidenten väcker oro över den ökande sofistikeringen av onlinebedrägerier och potentialen för AI att användas på skadliga sätt.