WhatsApp testet geräteinterne Betrugserkennung unter indischem Regulierungsdruck

Meta hat einen ersten technischen Überblick über "Scam Alert" veröffentlicht, ein optionales Werkzeug, das auf dem Gerät des Nutzers läuft, um potenzielle Betrugsnachrichten in WhatsApp zu identifizieren. Der gesamte Erkennungsprozess findet auf dem Gerät statt, sodass keine Nachrichteninhalte an Meta oder WhatsApp-Server gesendet werden.

Diese Entwicklung erfolgt zu einem Zeitpunkt, an dem die indische Telekommunikationsaufsichtsbehörde erwägt, Spam-Regeln auf Netzwerkebene auf "Over-the-Top" (OTT)-Plattformen auszuweiten. Die indische Regierung hat WhatsApp zudem unter Druck gesetzt, sich mit Betrugsdelikten auseinanderzusetzen.

Die Funktion "Scam Alert" soll regulatorischen Forderungen nachkommen, wie sie von der Telecom Regulatory Authority of India (TRAI) diskutiert werden. Diese Vorschläge sehen vor, dass Messaging-Apps Spam-Berichte mit Telekommunikationsbetreibern teilen müssen. Bei Nichteinhaltung drohen Strafen, die den rechtlichen Schutz der Apps beeinträchtigen könnten.

Funktionell lädt WhatsApp ein maschinelles Lernmodell auf das Gerät des Nutzers herunter. Dieses Modell analysiert eingehende Nachrichten von Nicht-Kontakten und gleicht sie mit bekannten Betrugsmustern ab. Die gesamte Klassifizierung erfolgt lokal, ohne dass Nachrichteninhalte das Gerät verlassen. Meta erhält nur anonymisierte, aggregierte Daten über die Häufigkeit von Betrugsmarkierungen und die Reaktionen der Nutzer auf diese Nachrichten.

Meta betont die Transparenz bei der Entwicklung von "Scam Alert", die eine unabhängige Überprüfung des Modells und seines Verhaltens ermöglicht. Die Funktion befindet sich derzeit in einer begrenzten Beta-Phase, weitere Sicherheitstests sind vor einer breiteren Einführung geplant.