Axians warnt vor zunehmender Gefahr durch Deepfakes

Der IT-Dienstleister Axians schlägt Alarm wegen der zunehmenden Verbreitung von Deepfakes, also künstlich erzeugten, täuschend echten Video- und Audiomaterialien. Das Unternehmen betont, dass Kriminelle diese Technologie vermehrt für Social-Engineering-Angriffe, zur Umgehung von Authentifizierungssystemen und für Desinformationskampagnen nutzen.

Deepfakes ermöglichen die Manipulation von Gesichtern und Stimmen, sodass Personen in falschen Zusammenhängen dargestellt oder zu Aussagen gezwungen werden, die sie nie getätigt haben. Axians beschreibt ein Szenario, in dem ein Mitarbeiter auf Basis einer gefälschten Anweisung des Vorgesanga – per Deepfake-Anruf – eine dringende Geldüberweisung tätigt und erst später erfährt, dass der Vorgesetzte nichts davon wusste.

Diese auf künstlicher Intelligenz basierenden Fälschungen werden für verschiedene Angriffsarten genutzt. Dazu gehören gezielte Phishing-Attacken, um an sensible Daten wie Anmeldedaten oder Geschäftsgeheimnisse zu gelangen, oder sogenannte CEO-Fraud-Betrügereien, um finanzielle Mittel zu erschleichen. Zudem können Deepfakes dazu dienen, biometrische Systeme wie Video- oder Stimmenerkennung zu überlisten, die für die Fernidentifizierung genutzt werden.

Axians weist darauf hin, dass die Technologie zwar stetig fortschreitet und Deepfakes immer realistischer werden, bei genauer Betrachtung jedoch oft noch Erkennungsmerkmale vorhanden sind. Das Unternehmen empfiehlt Vorsicht und gibt Tipps zur Identifizierung von Deepfakes: Achten sollte man auf unnatürliche Mimik, seltsame Schatten, undeutliche Übergänge (z.B. zwischen Gesicht und Haaren), fehlende oder unregelmäßige Blinzelbewegungen und inkonsistente Bildqualität. Ebenso wichtig ist die kritische Prüfung des Kontexts und der Quelle des Mediainhalts.

Die zugrundeliegende Technologie basiert auf neuronalen Netzen und Deep Learning, die aus großen Datenmengen lernen, um Gesichter und Stimmen zu replizieren. "Faceswapping" tauscht Gesichter in Videos aus, während "Face Reenactment" Mimik und Lippenbewegungen manipuliert. Bei der Stimmmanipulation kommen "Text-to-Speech"- und "Voice Conversion"-Verfahren zum Einsatz. Neben den Risiken birgt die Technologie aber auch Potenzial für kreative Anwendungen, wobei die Missbrauchsgefahr weiter steigt.