Une entreprise crée 350 000 robots d'intelligence artificielle pour tromper les escrocs et leur faire perdre du temps

L'entreprise australienne Apate a construit un réseau de 350.000 bots d'intelligence artificielle qui répondent aux appels, messages texte et chats pour faire perdre du temps aux escrocs téléphoniques. Le système, utilisé par les banques et soutenu par des opérateurs de télécommunications, a déjà recueilli plus de 250.000 données sur des fraudes, selon son fondateur à la revue Wired.

Apate, baptisée d'après la déesse grecque du mensonge, perfectionne le système depuis deux ans. Dali Kaafar, fondateur et directeur général de l'entreprise, a expliqué que l'objectif est de construire ce qu'il a appelé les victimes parfaites pour les escrocs.

« Une minute où un escroc parle à un bot est une minute où probablement des centaines ou des milliers de victimes potentielles sont sauvées », a déclaré Kaafar, en référence aux outils d'appel automatique utilisés par les bandes de fraude pour multiplier leurs appels.

Les gouvernements rencontrent des difficultés à poursuivre les escrocs opérant hors de leurs frontières. Cette limite a poussé à des tentatives alternatives, comme utiliser l'automatisation pour affronter les criminels à grande échelle et épuiser leurs ressources. L'une de ces alternatives consiste directement à saturer les escrocs avec des messages automatisés pour leur faire perdre du temps et des ressources.

Comment opère le réseau de bots

Les bots d'Apate ne se contentent pas de répondre aux appels téléphoniques. Ils s'infiltrent également dans des groupes de chat où opèrent des escrocs et répondent aux messages texte, avec pour objectif de les frustrer tout en recueillant des indices sur leurs méthodes.

Chaque personnage possède une personnalité, une langue et un profil distincts afin que l'escroc ne remarque pas qu'il converse avec une machine. Kaafar a indiqué que certains bots ont WhatsApp et d'autres non, et que certains raccrochent en disant qu'ils rappelleront plus tard.

La stratégie vise à profiter du fait que les escrocs ont besoin de victimes prêtes à suivre la conversation. En les retenant avec un faux espoir de succès, le système réduit le nombre de personnes réelles auxquelles une même bande peut s'adresser en une journée.

Les conversations avec Apate durent souvent plus de deux heures, selon son fondateur. L'entreprise a déjà accumulé des données sur des adresses web falsifiées, des comptes mules et des numéros bancaires liés à des fraudes.

Pourtant, ni les spécialistes qui effectuent ce travail manuellement depuis des années ni les forces de sécurité n'ont réussi à freiner l'expansion de la fraude numérique au niveau mondial, selon reconnaît la note de Wired.

L'affaire d'Apate expose, en même temps, les limites de lutter contre un problème qui croît à une échelle bien plus grande que celle de toute entreprise individuelle.

L’article situe Apate dans une tendance plus large : l’utilisation de l’**intelligence artificielle générative pour exploiter les faiblesses psychologiques** des attaquants. Certaines de ces initiatives sont même allées jusqu’à **harceler directement des opérateurs de rançongiciels**.

Un essai avec de fausses victimes

Les journalistes de Wired ont testé une version de démonstration du système, dans laquelle ils devaient jouer le rôle d’escrocs face à l’un des bots d’Apate. L’intelligence artificielle a montré **un niveau de méfiance réaliste**, mais a laissé suffisamment d’ouvertures pour continuer à tenter de la convaincre.

Pour vaincre le système, les journalistes se sont réparti les rôles : l’un a joué le rôle d’une amie confuse, nommée Lucy, et l’autre celui de son conseiller financier, Mickey. **La conversation a maintenu un rythme naturel tout au long de l’essai.**

Après six minutes de tentatives, **ils n’ont pas réussi à faire investir le bot dans une prétendue opportunité en cryptomonnaies**, malgré les assurances que les rendements étaient extraordinaires.

Les bandes de fraudeurs envoient **des milliards de messages et d’appels chaque année**, avec des opérations à l’échelle industrielle entièrement dédiées à la tromperie de nouvelles victimes. C’est pourquoi, même avec l’essaim de bots d’Apate en marche, **il ne s’agit que d’une question de temps avant le prochain appel ou message d’arnaque**.

Un meilleur échange d’informations entre **police, banques et réseaux sociaux** pourrait renforcer ce type d’outils, selon l’analyse de Wired, avec des analyses de données propulsées par l’intelligence artificielle.