Ping An Digital Bank testar AI för att upptäcka deepfake-bedrägerier
Hongkong-baserade digitala banken Ping An Digital Bank har testat AI-verktyg för att identifiera deepfake-bedrägerier. Projektet använde ansiktsigenkänning och en "AI mot AI"-strategi för att förbättra bedrägeriupptäckten.
Ping An Digital Bank, en virtuell långivare baserad i Hongkong och en del av Ping An, har slutfört ett projekt inom Hong Kong Monetary Authoritys (HKMA) andra inkubator för generativ AI. Syftet med projektet var att testa nya verktyg för att upptäcka bedrägerier som använder deepfake-teknik.
Banken utvecklade en "Anti-Fraud Strategy Platform" i samarbete med OneConnect Financial Technology. Systemet använder ansiktsigenkänning under identifieringsprocessen för att i realtid upptäcka manipulerade eller syntetiska selfies. Enligt Ping An Digital Bank visade testerna en upptäcktsnoggrannhet på över 96 procent.
Projektet utforskade också en "AI mot AI"-metod, där AI-system används för att identifiera bedrägerier som skapats av andra AI-system. Detta är en reaktion på den ökande användningen av deepfakes i finansiella brott.
Utvecklingen sker mot bakgrund av en ökande oro för deepfake-bedrägerier. Ett uppmärksammat fall i Hongkong 2024 involverade en anställd på ett multinationellt företag som lurades att överföra 25 miljoner USD via ett videosamtal som använde deepfake-teknik.