L'intelligence artificielle pourrait identifier les cas de deep fake sur Internet

Les deep fakes sont des formes d'utilisation de l'intelligence artificielle pour réaliser des montages vidéo dans lesquels l' identité d'une personne peut être usurpée en créant une représentation de son visage sur un corps différent, pour créer une illusion de réalisme .

Cette utilisation de la technologie se retrouve dans les films, les séries et la publicité. Cependant, il a également été utilisé à mauvais escient par des personnes qui truquent des vidéos des autorités gouvernementales nationales pour faire croire au monde que des déclarations ou des actions ont été faites qui ne se sont pas réellement produites.

Le cas d'une vidéo présumée du président américain Joe Biden chantant lors d'un discours est un cas d'utilisation qui pourrait être considéré comme amusant pour le public . Cependant, cette technologie peut être utilisée pour escroquer les gens, comme cela s'est produit avec des cas de vidéos pornographiques d'actrices hollywoodiennes .

À cet égard, un outil logiciel a été découvert qui utilise également l' intelligence artificielle pour détecter les cas de contrefaçons profondes afin d'exposer ces pratiques malveillantes au monde.

FakeCatcher , comme cette ressource technologique est connue, a été introduit par Intel comme un détecteur de faux profonds en temps réel, de sorte qu'il pourrait être utilisé instantanément pour reconnaître quelle vidéo ou quel contenu est manipulé par l'intelligence artificielle .

"Cette technologie peut détecter les fausses vidéos avec une précision de 96 % (...) C'est le premier détecteur de faux profonds en temps réel au monde qui renvoie des résultats en quelques millisecondes", indique la société sur son site officiel .

Comment fonctionne FakeCatcher

La société déclare dans le communiqué officiel que la méthode de détection est basée sur la recherche d'indices réels en utilisant le flux sanguin sur le visage des personnes comme référence.

Cette fonctionnalité est subtile dans les pixels d'une vidéo et s'accompagne de très légers changements dans le teint de la peau. Après traitement des images par un système d'algorithmes, si ces signaux sont détectés, la vidéo sera identifiée comme une réel, tandis que le cas contraire sera classé comme un faux instantanément .

Dans le cadre de sa présentation, il est indiqué que FakeCatcher peut générer une augmentation de la confiance des médias, alors que dans le cas des réseaux sociaux, il pourrait être un outil utile pour identifier les fausses vidéos ou celles qui nuisent aux communautés.

Au niveau mondial, cette fonction pourrait être utilisée pour empêcher la diffusion de contenus manipulés ou dont l' authenticité est mise en doute. Des organisations à but non lucratif participeraient également à l' application de cette plateforme en démocratisant la détection de ces cas auprès du public.

De leur côté, des entreprises comme Google qui se consacrent à l'application de la technologie ont mis leur veto à cette pratique du montage vidéo en raison de l'abus qui en a été fait sur Internet et de la mauvaise image que son application a actuellement sur Internet. .

L' Union européenne , pour sa part, s'est également impliquée dans la lutte contre la désinformation à la suite de ce type de contenu et a insisté pour que les entreprises de médias sociaux telles que Meta et Twitter aient des mesures claires pour lutter contre les deep fakes sur leurs plateformes. .

Continuer à lire: