Comment détecter les deepfakes dans les appels vidéo

Une tactique prometteuse et simple pour détecter les deepfakes

Une étude récente assure que nous "attrapons" moins de la moitié des deepfakes qui passent devant nos yeux, même si bien sûr, nous n'avons pas toujours la même probabilité de les détecter.

L' équipe Metaphysic a demandé à l'acteur Bob Doyle de participer à une série d'appels vidéo en utilisant DeepFaceLive, une fausse version en temps réel du populaire logiciel DeepFaceLab. Comme vous pouvez le voir sur la capture d'écran, le système a fait un excellent travail avec la plupart des personnages.

Doyle devient Sylvester Stallone, Ryan Reynolds, Nicolas Cage, Keanu Reeves, Tom Cruise, Vin Diesel et d'autres. Cependant, au milieu du spectacle, on lui a demandé de tourner lentement la tête sur le côté. Résultat? La qualité du deepfake est perdue lorsque l'angle atteint 90 degrés.

Comme l'explique l'équipe, la plupart des systèmes de deepfake ne fonctionnent pas bien dans les situations de virage serré.

En fait, presque tous les repères utilisés par l'algorithme de reconnaissance faciale sont affectés à l'avant du visage. Ainsi, lorsque quelqu'un montre son visage sur un faux profil, il commence à s'embrouiller.

Une des autres techniques que propose Metaphysic pour identifier les deepfakes consiste à demander à la personne avec qui vous passez un appel vidéo de passer la main devant son visage. Cela créerait une "situation grave pour le modèle qui pourrait montrer un décalage et une mauvaise qualité de superposition sur le vrai visage".

Cette Intelligence Artificielle détecte les deepfakes sur TikTok

Le concours a duré 5 mois et Wang, qui après avoir remporté un prix de 300 000 dollars américains pour commercialiser son idée, a assuré qu'il préférait mettre en œuvre sa technologie dans sa propre entreprise pour lutter contre la manipulation dans les réseaux sociaux.

Plus précisément, Wang souhaite intégrer cette technologie capable de détecter les images manipulées dans BytePlus afin que les utilisateurs puissent en faire usage. Cette dernière plateforme citée est une filiale de ByteDance, spécialisée dans le développement et la recherche autour de l'intelligence artificielle.

"Bon ou mauvais, le deepfake est une technologie émergente qui ne peut tout simplement pas être ignorée", a déclaré Wang après avoir remporté le concours. Selon CNA, la télévision de Singapour, Wan a décidé de participer car il a un grand intérêt à résoudre les grands défis auxquels sont confrontés les médias.

CONTINUER À LIRE