Une arnaque par voix clonée visant son grand-père a conduit cette jeune femme à créer une IA qui détecte les escroqueries sur le téléphone.

Tarini Padmanabhuni a fondé DetectifAI après qu'un escroc ait utilisé une voix clonée avec intelligence artificielle pour tromper son grand-père. Aujourd'hui, la startup de San Francisco développe des modèles d'IA suffisamment légers pour fonctionner sur un téléphone et détecter les fausses voix en temps réel.

Il y a environ deux ans, le grand-père de Padmanabhuni a reçu un appel de quelqu'un qui ressemblait exactement à son frère. La voix lui a dit qu'il avait été enlevé et que la seule façon de le récupérer était de payer une rançon. L'homme a payé, et seulement après s'est-il rendu compte que son frère était sain et sauf ailleurs et n'avait rien su de l'appel.

« Ce qui m'est resté en tête, ce n'était pas l'argent », a déclaré Padmanabhuni à propos de l'épisode. « C'était qu'il n'avait aucun moyen de le savoir ».

Un problème qui croît selon les chiffres officiels

Ce cas n'est pas isolé. Selon des données du FBI citées par le média mentionné, les Américains ont perdu l'année dernière près de 900 millions de dollars en escroqueries alimentées par l'intelligence artificielle, soit une augmentation de 24 % par rapport à l'année précédente.

L'agence fédérale a également enregistré que les personnes âgées de 60 ans ou plus ont perdu le double d'argent par rapport aux adultes âgés de 50 à 59 ans.

La technologie de clonage vocal nécessite seulement quelques secondes d'audio pour générer une imitation crédible, ce qui a multiplié ce type de fraudes, connues sous le nom d'escroqueries du « parent en détresse », au cours des dernières années.

Comment fonctionne la détection sur le téléphone lui-même

Contrairement à d'autres outils qui envoient l'audio à un serveur externe pour analyse, DetectifAI conçoit ses modèles pour qu'ils s'exécutent directement dans le système d'exploitation du téléphone. Cela réduit le temps de réponse et évite de dépendre d'une connexion cloud au moment critique de l'appel.

L'entreprise licence sa technologie aux fabricants de téléphones et traite déjà plus de 100 000 appels par mois pour des institutions financières en Inde, où des agents vocaux avec intelligence artificielle gèrent les recouvrements et le suivi de la documentation des prêts avec vérification de l'identité de l'interlocuteur à chaque appel.

La fondante, qui a commencé à travailler sur l'apprentissage automatique à l'âge de 12 ans, a étudié les systèmes cyber-physiques (la discipline qui combine le logiciel avec la machinerie physique) à l'Institut de technologie Manipal, en Inde. Là-bas, elle est devenue la plus jeune leader de la division des voitures autonomes du pays dans la compétition étudiante Formula Student.

L’un des moments que la fondatrice décrit comme les plus gratifiants a été un test bêta via WhatsApp, où les utilisateurs renvoyaient des notes vocales suspectes et recevaient une évaluation sur leur authenticité. Un utilisateur dont la propre famille avait été victime d’une arnaque lui a déclaré qu’il paierait pour le service sans hésiter.

Dans une interview précédente accordée au média YourStory, Padmanabhuni a résumé l’objectif à long terme de l’entreprise : « Idéalement, toute personne disposant d’un téléphone mobile devrait avoir accès à un certain niveau de protection » contre la tromperie générée par l’intelligence artificielle.

Comment vous protéger des arnaques téléphoniques

Pour éviter de tomber dans une arnaque téléphonique, la règle principale consiste à ne jamais partager de données personnelles, d’informations bancaires ni de codes de vérification, tels que les SMS de WhatsApp ou les clés OTP, que l’appel soit entrant ou sortant.

Si vous recevez une communication suspecte d’une prétendue entité bancaire, d’une entreprise de services ou même d’un proche prétendant être dans le besoin et demandant de l’argent ou des données en urgence, il est recommandé de couper la communication immédiatement.

Après avoir coupé, il convient de confirmer la situation par un autre moyen : communiquez directement avec les canaux officiels de l’institution concernée ou contactez le proche ou le parent par un moyen différent de celui utilisé lors de l’appel suspect.

Cela s’ajoute à l’utilisation des outils déjà intégrés aux smartphones pour bloquer ce type de menaces de manière automatique. Parmi eux figurent l’identifiant d’appels et la protection contre le spam intégrés au système d’exploitation, disponibles aussi bien dans Google Téléphone pour Android que dans l’option de silencier les numéros inconnus sur iOS.