WhatsApp Scam Alert: Die KI prüft nur Fremde, nicht deine Kontakte

Meta hat am 12. August einen technischen Überblick zu Scam Alert veröffentlicht, einer neuen Funktion für WhatsApp. Sie soll vor Betrugsnachrichten warnen, bevor jemand darauf hereinfällt. Die Prüfung läuft dabei komplett auf dem Handy.

Nach dem Einschalten lädt WhatsApp ein kleines KI-Modell auf das Gerät. Dieses Modell liest eingehende Nachrichten und vergleicht sie mit Mustern aus gemeldeten Betrugsfällen, also mit Gesprächsverläufen und Formulierungen, die typisch für bekannte Maschen sind. Kein Nachrichteninhalt verlässt dafür das Telefon. Die Ende-zu-Ende-Verschlüsselung, bei der nur Absender und Empfänger den Klartext sehen, bleibt unangetastet.

Die Warnung sieht nur der Empfänger

Erkennt das Modell einen wahrscheinlichen Betrugsversuch, erscheint ein Hinweis direkt im Chat. Der Absender bekommt davon nichts mit. Von dort aus kann der Nutzer den Absender blockieren, ihn melden oder einfach weiterschreiben. WhatsApp meldet von sich aus nichts an Meta. Das passiert nur, wenn der Nutzer aktiv auf „Melden“ tippt.

Geprüft wird nur, wer nicht im Adressbuch steht

Hier liegt die Einschränkung, und sie steht in Metas eigener Beschreibung. Das Modell klassifiziert ausschließlich Nachrichten von Absendern, die nicht in den Kontakten gespeichert sind. Nachrichten von Personen, die bereits im Adressbuch stehen, werden nicht geprüft.

Damit bleibt ausgerechnet die Masche außen vor, die am besten funktioniert. Wird der WhatsApp-Zugang eines Freundes oder Verwandten übernommen, kommt die Betrugsnachricht von einem echten, bekannten Konto. Scam Alert schweigt dann. Wie so eine Übernahme abläuft, zeigte der Fall einer gefälschten App, die WhatsApp-Konten kapert. Auch der Schockanruf mit geklonter Stimme läuft an dieser Prüfung vorbei, weil er gar nicht über WhatsApp kommt.

Einmal vertrauenswürdig, nie wieder eine Warnung

Wer eine Warnung für falsch hält, kann den Chat als vertrauenswürdig markieren. Der Hinweis verschwindet dann dauerhaft für diesen Kontakt. Das ist bequem und zugleich der wunde Punkt: Genau diese Entscheidung trifft man unter Druck, wenn ein geübter Betrüger schon ein Gespräch aufgebaut hat. Wer den Chat so markiert, kann zusätzlich freiwillig die letzten fünf empfangenen Nachrichten an WhatsApp übermitteln.

Nachprüfbar gebaut

Bei der Transparenz geht Meta weiter als üblich. Jede Modellversion wird mit ihrer Prüfsumme in ein öffentliches Register geschrieben, bevor sie ausgeliefert wird. Die Signatur stammt von Cloudflare; den dafür nötigen Schlüssel besitzt Meta nicht. Die Modellgewichte werden veröffentlicht, damit Forscher nachsehen können, ob das Modell wirklich nur Betrug erkennt. Nutzer selbst finden unter „Account“ > „Request Info“ > „Scam Alert Activity“ ein Protokoll darüber, welche Nachrichten geprüft wurden und welche Modellversion dabei lief.

Die Statistiken dazu, wie oft gewarnt wurde und wie Nutzer reagiert haben, werden in abgeschotteten Rechenumgebungen verarbeitet. Bevor Meta sie sieht, werden sie zusammengefasst und mit Rauschen versehen, sodass sich daraus keine Rückschlüsse auf einzelne Personen ziehen lassen.

Verfügbar ist das noch nicht

Scam Alert läuft im Rahmen einer begrenzten Beta zusammen mit Metas Bug-Bounty-Programm. Weder einen Termin für den Vollstart noch die dafür vorgesehenen Länder nennt das Unternehmen. Zu Deutschland gibt es bislang keine Aussage. Bis dahin hilft die alte Regel: Bei Geldforderungen oder einer angeblich neuen Nummer die betreffende Person über einen zweiten Kanal kontaktieren, am besten durch einen Anruf unter der alten Nummer. Wer wissen will, wie schnell ein Konto auch ohne Passwort fällt, findet das im Bericht über den geklauten Sitzungs-Cookie.