WhatsApp teste la détection de fraude sur appareil face à la pression réglementaire indienne
WhatsApp expérimente un nouvel outil optionnel sur appareil pour signaler les messages potentiellement frauduleux. Cette fonctionnalité vise à répondre aux préoccupations de confidentialité tout en s'adaptant aux nouvelles réglementations indiennes pour les applications de messagerie.
Meta a publié un aperçu technique préliminaire de "Scam Alert", un outil optionnel fonctionnant sur l'appareil de l'utilisateur pour identifier les messages potentiellement frauduleux sur WhatsApp. L'ensemble du processus de détection se déroule sur le téléphone de l'utilisateur, garantissant qu'aucun contenu de message n'est transmis aux serveurs de Meta ou de WhatsApp.
Ce développement intervient alors que l'autorité de régulation des télécommunications indienne envisage d'étendre les règles de lutte contre le spam au niveau du réseau aux plateformes "over-the-top" (OTT). Le gouvernement indien a également exercé des pressions sur WhatsApp pour qu'il traite d'autres questions liées à la fraude.
La fonction Scam Alert vise à répondre aux exigences réglementaires, telles que celles envisagées par la Telecom Regulatory Authority of India (TRAI). Ces propositions visent à obliger les applications de messagerie à partager leurs rapports de spam avec les opérateurs télécoms et pourraient imposer des sanctions en cas de non-conformité, affectant potentiellement les protections juridiques des applications.
Concrètement, WhatsApp télécharge un modèle d'apprentissage automatique sur l'appareil de l'utilisateur. Ce modèle analyse les messages entrants provenant de non-contacts et les compare à des modèles de fraude connus. Toute la classification se fait localement, sans que le contenu des messages ne quitte l'appareil. Meta ne recevra que des données anonymisées et agrégées sur la fréquence des alertes de fraude et les actions des utilisateurs sur ces messages.
Meta a souligné la transparence dans le développement de Scam Alert, permettant une révision indépendante du modèle et de son comportement. La fonctionnalité est actuellement en phase de bêta-test limitée, avec des tests de sécurité supplémentaires prévus avant un déploiement plus large.