L’e-commerçant BackMarket crée des agents IA pour stopper la fraude logistique

BackMarket, spécialiste de la vente de smartphones reconditionnés, doit faire face à la fraude à la demande de remboursement et au retour de colis comme tous les sites e-commerce.  Afin de détecter ce type de fraudeurs,  le commerçant a mis en place six agents IA sur la plateforme de la startup Dust, développés par son équipe chargée de la fraude.

Fraude au remboursement du colis

La fraude logistique est une une pratique frauduleuse commune lors de laquelle un client achète un produit coûteux en ligne et demande un remboursement sans le renvoyer en prétendant ne pas avoir reçu le colis, que le colis reçu état vide, ou qu’il y avait un problème technique sur le produit et déclare l’avoir retourné, alors qu’il s’est débrouillé avec l’étiquette pour que le colis vide qu’il a renvoyé ne revienne pas au vendeur.

Face à ce type de fraude, BackMarket a collaboré avec la plateforme Dust afin de mettre en place des agents IA qui examinent les demandes de remboursement. C’est ce qu’a présenté Aurélien Gervasi, Senior Engineering Manager dans l’IA chez BackMarket en compagnie de Alban Dumouilla, Product Growth chez Dust.  Ils ont pris la parole à l’occasion de l’événement de grande ampleur Adopt AI organisé par la société de conseils Artefact au Grand Palais, les 25 et 26 novembre.

BackMarket chiffre à 0,3% le nombre de colis expédiés qui sont concernés par ce type de fraude. Il fallait absolument aider son équipe spécialisée dans la fraude, à passer d’investigations manuelles pour chaque cas et d’usage d’outils obsolètes,  à une solution à base d’agents IA développés sur la plateforme de Dust. Un agent IA maître orchestre le processus d’investigation en reproduisant la démarche des meilleurs analystes de la fraude de BackMarket.

Traquer les fraudeurs prend beaucoup de temps

« Aujourd’hui, nous disposons d’une équipe d’experts dédiée à cette tâche. Ils sont capables de trouver des indices très clairs permettant de détecter ces schémas de fraude dans les demandes d’indemnisation que nous recevons. Le seul problème est que, jusqu’à récemment, ils étaient limités dans la manière dont ils pouvaient mener cette enquête, et cela leur prenait beaucoup de temps » explique Aurélien Gervasi.

“C’est pourquoi, depuis que nous avons introduit Dust il y a quelques mois dans toute l’entreprise, ils ont voulu essayer ce qu’ils pouvaient faire avec cet outil pour automatiser une partie de ce travail et le rendre plus efficace” dit-il. “Le problème pour nous est que le processus d’enquête prend plusieurs heures, voire parfois plusieurs jours. Et cela ne peut pas monter facilement en charge avec le business de BackMarket. C’est pourquoi ils ont eu l’idée d’utiliser Dust pour cela et de créer cet agent orchestrateur de fraude. L’idée est d’imiter ce processus d’enquête avec un agent” ajoute-t-il.

Six agents IA spécialisés pour découvrir une fraude

Il faut procéder à une série de vérifications avec un niveau de risque et une explication associée. L’agent IA orchestrateur de détection de la fraude fait appel à six différents agents IA qui sont « Address Check », « Return Distance », « Customer Search », « Tracking incidents », « Payment incidents » et « Conversation Pattern ». Par exemple, l’agent IA « Address Check » évalue le risque lié à l’adresse de livraison en comparant avec les adresses connues pour de la fraude.

L’agent IA «  Return Distance » calcule la distance entre l’adresse de livraison et l’adresse de retour du colis afin de calculer le risque de fraude. L’agent IA « Customer Search » analyse l’historique du client et ses incidents, depuis combien de temps il est sur la plateforme et combien il a déjà dépensé.. L’agent IA « Tracking incidents » examine si il y a pu y avoir des manipulations d’étiquettes, les mots clés relatifs à la fraude et les anomalies à partir de modèles connus de livraison suspects.

L’agent IA « Payment incidents » évalue le nombre de tentatives de paiement et les méthodes de paiement utilisées pour chaque commande. Quant à l’agent IA « Conversation pattern », il analyse le texte de la réclamation du client afin de détecter des modèles de fraude déjà identifiés. Si le client procède souvent à des demandes de remboursement, cela est aussi un signe de risque de fraude.

Les agents IA ont été développés par l’équipe chargée de la fraude

Ces agents IA ont été développés par l’équipe de détection de la fraude elle-même chez BackMarket. Pour autant, cela n’a pas amené la réduction de la taille de cette équipe car son expertise est nécessaire pour creuser et améliorer en permanence les modèles de fraudes et enrichir ces agents IA. L’usage d’agents IA n’a eu aucun impact sur le pool d’agents humains, qui regroupe de nombreux sous-traitants afin d’effectuer l’examen préalable des demandes de remboursement, car BackMarket a encore besoin d’eux à ce stade.

Pour l’équipe d’experts en fraude, rien n’a changé non plus. « Cela signifie simplement qu’ils passent moins de temps à examiner chaque cas en particulier, mais qu’ils peuvent consacrer plus de temps à identifier des schémas de fraude plus profonds et à adapter la solution » explique Aurélien Gervasi. « Cela revient davantage à une amélioration de la qualité et de la capacité à traiter ces cas [de fraude] plutôt qu’à une simple accélération du processus en réduisant le nombre de personnes.”

“La fraude est quelque chose de très, très important pour nous. On a besoin d’une équipe solide. Il s’agit davantage d’un outil permettant d’améliorer leurs résultats que d’un simple moyen de réduire les coûts de l’équipe » insiste-t-il.

L’équipe est capable d’adapter l’outil elle-même

« L’équipe chargée de la fraude a découvert que, dans de nombreux cas, dans les conversations, les fraudeurs utilisent le même premier message” ajoute Aurélien Gervasi. Il existe donc une sorte de modèle en termes de premiers messages, et l’équipe voulait créer un répertoire de modèles afin de les confronter et de voir si ces déclarations correspondent.

“Si vous essayez de le faire manuellement, cela prend bien sûr beaucoup de temps » poursuit-il. L’IA générative aide dans ce cas-là. Désormais, lorsque l’équipe chargée de la lutte contre la fraude identifie un nouveau type de message, elle n’a pas besoin de passer par une équipe d’ingénieurs spécifiques pour mettre à jour la solution. Elle est totalement autonome à cet égard.

« Depuis le lancement du système, l’équipe commence à constater une augmentation du nombre de cas de fraude qu’elle est en mesure de traiter et d’identifier. J’estime qu’au cours de l’année à venir, nous allons pouvoir prévenir plus d’un million d’euros de fraude, ce qui a un impact considérable sur nos revenus. Mais ce qui est très intéressant pour moi, en tant que responsable de la transformation IA, c’est qu’ils ont pu le faire de manière autonome » se félicite-t-il.

Blocage de 1,2 million d’euros de fraude sur un an

BackMarket chiffre ainsi à 1,2 million d’euros le montant de la fraude bloquée annuellement. L’e-commerçant évalue à 1 semaine le délai qui a été nécessaire pour créer ces agents IA de lutte contre la fraude et il faut moins d’un jour pour les mettre à jour. Lors du développement des agents IA, l’équipe fraude de BackMarket a retenu le modèle d’IA générative Claude Sonnet de la société Anthropic.

Chez BackMarket, les agents IA viennent également aider à délivrer un reporting spécifique destiné au management de l’entreprise, en complément des tableaux de bord construits avec le logiciel Tableau de Salesforce. Ce sont les équipes métiers qui créent les agents IA. Un enjeu est de montrer le retour sur investissement de ces agents IA afin d’obtenir le soutien du management de l’entreprise et de faire monter en puissance les équipes métiers sur la création des agents IA de manière décentralisée.

Cela passe par l’émergence des collaborateurs qui sont intéressés par cette technologie, les early adopters, qu’il convient d’accompagner et d’encourager dans l’utilisation de la plateforme Dust afin de s’appuyer sur ces équipes pour généraliser l’usage des agents IA dans le reste de l’organisation. La proposition de Dust est d’ailleurs de pouvoir créer des agents IA sans avoir à faire de programmation et BackMarket ne souhaite pas créer d’équipe qui centralise toutes les demandes de créations d’agents IA et deviendrait un goulet d’étranglement.

La présence de plusieurs plateformes d’agents IA

On peut relever que lors de la même journée, le poids lourd du CAC 40, TotalEnergies est intervenu afin de présenter son usage d’une autre plateforme d’agents IA délivrée dans ce cas par une autre startup, en l’occurrence Draft & Goal afin d’améliorer le SEO des articles qu’il publie dans le cadre de la vente d’abonnements grand public en gaz et électricité. Quant à l’éditeur Prisme.ai, il était également présent. Il est le fournisseur de la plateforme d’agents IA employée par l’opérateur télécoms Bouygues Telecom.