Axians varnar för växande hot från deepfakes

IT-tjänsteföretaget Axians har uppmärksammat det växande hotet från deepfakes, det vill säga falskt video- och ljudmaterial skapat med artificiell intelligens (AI). Företaget varnar för att brottslingar alltmer utnyttjar denna teknik för social manipulation, för att kringgå autentiseringssystem och för att sprida desinformation.

Deepfakes möjliggör manipulation av ansikten och röster så att individer framställs i förvrängda sammanhang eller säger saker de normalt inte skulle säga. Axians beskriver ett scenario där en anställd gör en brådskande överföring baserad på ett deepfake-samtal som låter som en chef, bara för att senare upptäcka chefens okunskap om händelsen.

Dessa typer av AI-baserade manipulationer används i en mängd olika attacker. De kan inkludera riktade nätfiskeförsök för att stjäla företagshemligheter eller inloggningsuppgifter, eller så kallade "VD-bedrägerier" för att missbruka medel. Dessutom kan deepfakes användas för att kringgå biometriska identifieringssystem, såsom video- eller röstautentisering.

Axians påminner om att tekniken har utvecklats snabbt, och även om vissa förfalskningar kan identifieras vid noggrann granskning, blir de ständigt mer trovärdiga. Företaget rekommenderar försiktighet och ger tips för att identifiera deepfakes, som att leta efter onaturliga ansiktsdrag, otydliga övergångar runt ansiktet, brist på blinkningar eller inkonsekvent bildkvalitet. Kritisk bedömning av källor och sammanhang är också viktigt.

Tekniken bygger på avancerade neurala nätverk och djupinlärning som analyserar och lär sig mänskliga ansiktsdrag och tal från stora datamängder. "Faceswapping"-teknik ersätter ansikten i videor, medan "Face Reenactment" manipulerar ansiktsuttryck och rörelser i realtid. Liknande "Text-to-Speech"- och "Voice Conversion"-metoder används för röstförfalskningar. Även om tekniken erbjuder potential för kreativ användning, förväntas dess missbruk öka.