Forscher: KI-generierte Stimmen bei Betrugs-Dating-Apps entdeckt
Sicherheitsforscher haben eine neue Welle von Betrugsmaschen in Dating-Apps aufgedeckt, die KI-generierte Stimmen nutzen. Eine betrügerische App namens Dora gab sich mit synthetischem Audio als Person aus.
Betrüger setzen nun künstliche Intelligenz ein, um ausgeklügelte Betrugssysteme in Dating-Apps zu schaffen, so eine aktuelle Analyse des Sicherheitsforschers Matthew Gore-Kormanik.
Bei der Untersuchung einer betrügerischen Dating-Anwendung namens Dora erhielt Gore-Kormanik einen simulierten Anruf von einer Person namens Jennifer. Das Profil beschrieb Jennifer als 41-jährige Schützin mit spezifischen physischen Merkmalen und angegebenen Interessen. Beim Annehmen des Videoanrufs beobachtete Gore-Kormanik jedoch nur eine sich bewegende Wandbehänge und hörte verzerrte Hintergrundgeräusche, ohne visuelle Darstellung von Jennifer.
Nach dem erfolglosen Anruf schickte der Betrüger, der sich als Jennifer ausgab, eine Nachricht, die die Interaktion und Gore-Kormaniks Stimme positiv kommentierte. Dies deutet darauf hin, dass die KI nicht nur zur Spracherzeugung, sondern auch zur Gestaltung von Konversationen eingesetzt wurde.
Die Entdeckung beleuchtet einen wachsenden Trend, bei dem KI-Technologie für betrügerische Zwecke missbraucht wird. Die Betrugsmaschen entwickeln sich von einfachen textbasierten Angriffen zu immersiveren, audiobasierten Täuschungen. Der Vorfall wirft Bedenken hinsichtlich der zunehmenden Raffinesse von Online-Betrug und des Potenzials für den bösartigen Einsatz von KI auf.