Une fondatrice crée une entreprise après que sa voix deepfake a trompé son grand-père

Tarini Padmanabhuni a fondé l'entreprise DetectifAI après que son grand-père est devenu la victime d'une escroquerie impliquant une voix deepfake. Le grand-père croyait parler à son frère au téléphone, mais la voix était une imitation générée par IA. L'arnaque, qui prétendait que son frère avait été enlevé et exigeait une rançon, a entraîné une perte financière considérable.

Suite à cet incident, Padmanabhuni a commencé à développer une solution capable de détecter les fausses voix générées par IA en temps réel. La technologie de DetectifAI repose sur de petits modèles d'IA qui peuvent fonctionner directement sur les smartphones. Ces modèles sont conçus pour analyser les appels et alerter immédiatement les utilisateurs des manipulations vocales potentielles.

L'entreprise vise à contrer la menace croissante que représentent les escroqueries basées sur l'IA pour les individus et les entreprises. Les progrès des deepfakes sont rapides, permettant la création d'imitations vocales convaincantes à des fins malveillantes. L'approche de DetectifAI utilise le traitement embarqué pour améliorer la confidentialité et permettre une détection en temps réel.

DetectifAI fait partie d'un groupe de startups technologiques basées à San Francisco qui s'attaquent à des défis critiques. La technologie de l'entreprise pourrait améliorer considérablement la sécurité des communications dans la sphère numérique, protégeant ainsi les utilisateurs contre de nouvelles formes de fraude.