Meta a commencé à tester une nouvelle fonctionnalité de sécurité facultative appelée Scam Alert pour protéger les utilisateurs de WhatsApp contre les tentatives de fraude. La fonctionnalité, disponible en version bêta limitée, évalue si les messages entrants sont des tentatives de fraude en utilisant le modèle d'apprentissage automatique exécuté sur l'appareil. Lorsque le système trouve un message suspect, il affiche un avertissement à l'utilisateur directement dans le chat, et cet avertissement ne peut pas être vu par l'autre partie de la conversation. L'utilisateur peut alors bloquer le compte concerné, le signaler à WhatsApp ou poursuivre la conversation. Ainsi, Meta vise à fournir une couche de sécurité supplémentaire à l'utilisateur sans examiner le contenu des messages sur ses serveurs.
Les alertes affichées par Scam Alert ne constituent pas une détermination définitive de fraude. Si l'utilisateur pense que le système a fait une évaluation incorrecte, il peut marquer le chat concerné comme fiable. Après ce processus, l'avertissement existant est supprimé et Scam Alert n'affiche plus d'avertissement pour le même chat. De plus, lorsque les utilisateurs marquent un chat comme digne de confiance, ils peuvent éventuellement choisir de partager les cinq derniers messages qui leur ont été envoyés via WhatsApp afin de contribuer à améliorer la précision de la fonctionnalité. Ainsi, même si Meta analyse les messages par défaut sans les supprimer de l'appareil, il propose également un mécanisme de rétroaction basé sur la préférence explicite de l'utilisateur pour améliorer le modèle.
WhatsApp Scam Alert examine les messages sur l'appareil
Selon les informations fournies par Meta, lorsque Scam Alert est actif, aucun contenu de message ne quitte l'appareil de l'utilisateur à des fins de classification. Les conversations considérées comme suspectes ne sont pas automatiquement signalées à WhatsApp, Meta ou à toute autre partie. Cette approche constitue un détail remarquable en termes de structure de messagerie basée sur le cryptage de bout en bout de WhatsApp, car les messages n'ont pas besoin d'être traités sur un serveur central pour la détection des fraudes. Cependant, la précision avec laquelle les modèles exécutés sur l'appareil évaluent le contexte déterminera les performances du système, en particulier lorsqu'il s'agit d'expressions inhabituelles utilisées dans les conversations quotidiennes. Par conséquent, avoir la possibilité de marquer le chat comme fiable contre les faux positifs semble fonctionnel pour l’utilisateur.
Scam Alert n’est pas la seule protection ajoutée par WhatsApp pour lutter contre la fraude. Plus tôt cette année, Meta a également introduit un mécanisme de sécurité distinct qui détecte les signes de fraude dans les demandes de connexion de comptes WhatsApp à d'autres appareils. Lors des tentatives de piratage de compte, les attaquants peuvent tenter de persuader les utilisateurs de partager un code de connexion ou de connecter un appareil étranger à leur compte. Le nouveau système, qui évalue le contenu des messages, assure la protection directement au niveau du chat. Cela permet de fournir un avertissement plus précoce en cas de demandes d'envoi d'argent, de méthodes de communication à long terme visant à gagner la confiance ou de messages suspects incitant l'utilisateur à effectuer une certaine action.
La base d'utilisateurs de WhatsApp dépassant les 3 milliards fait de la plateforme l'un des canaux de communication les plus ciblés par les fraudeurs. Parmi les menaces rencontrées dans les services de messagerie figurent notamment les messages demandant un transfert d'argent et les méthodes frauduleuses appelées « boucherie de porcs », par lesquelles les attaquants établissent au fil du temps une relation de confiance avec la victime, généralement suivie de fausses offres d'investissement. Selon les données de la Federal Trade Commission (FTC) des États-Unis, les utilisateurs ont signalé des pertes de plus de 2,1 milliards de dollars dues à des fraudes sur les réseaux sociaux en 2025. Il a été déclaré que 425 millions de dollars de cette somme étaient liés à des cas de fraude ayant eu lieu uniquement via WhatsApp. Ces chiffres expliquent également pourquoi les systèmes de détection automatisés migrent directement vers les applications de messagerie.
Le fait que Scam Alert soit facultatif laisse à l’utilisateur le contrôle sur la manière d’utiliser la fonctionnalité. Une fois la fonctionnalité activée, elle peut être désactivée à tout moment et, selon Meta, le contenu des messages n'est pas envoyé à l'extérieur de l'appareil lors de la classification normale. Toutefois, les avertissements fournis par ces systèmes ne devraient pas à eux seuls empêcher toutes les tentatives de fraude ; Le langage et les méthodes utilisés par les attaquants peuvent constamment changer. Bien qu'effectuer une analyse sur l'appareil soit un choix positif en termes de confidentialité, la fréquence des fausses alertes pendant la période bêta limitée et la réussite de l'évaluation des messages dans différentes langues montreront plus clairement la valeur pratique de la fonctionnalité. À ce stade, Scam Alert ne remplace pas les outils de blocage et de signalement existants de WhatsApp, mais propose plutôt un mécanisme d'avertissement supplémentaire qui attire l'attention sur les conversations suspectes avant que l'utilisateur ne prenne une décision.
