Les systèmes de Meta ne parviennent pas à détecter des centaines d'annonces d'abus infantile générées par l'intelligence artificielle

Meta n’a pas réussi à arrêter la propagation de plus de 250 annonces contenant du matériel d’abus sexuel sur ses plateformes depuis le début août, selon une enquête du Tech Transparency Project (TTP).
Le constat est intervenu quelques semaines après que l’entreprise a supprimé environ 50 avis similaires et affirmé avoir déployé des outils d’intelligence artificielle pour « détecter et bloquer » ce type de contenu.
Contrairement aux 53 premières annonces détectées, les chercheurs du TTP ont réussi à identifier dans cette nouvelle série des images d’enfants réels, dont une pièce transformant une photographie officielle d’un mineur d’une famille royale européenne en vidéo avec une scène sexuelle explicite.
Les chercheurs ont décidé de ne pas révéler l’identité de la famille pour protéger la victime et ont informé les autorités du pays. L’image originale provenait du site web officiel de la maison royale.

Les annonces ont accumulé des milliers de vues avant d’être supprimées

Depuis la fin de l’année dernière, Meta a publié plus de 350 annonces vidéo avec du contenu d’abus infantile, dont beaucoup redirigeaient vers des applications de « déshabillage » liées à des développeurs chinois. Dans plusieurs cas, selon les chercheurs, l’entreprise a mis jusqu’à une semaine pour examiner des avis déjà signalés via ses propres outils, période durant laquelle ils ont accumulé des centaines de vues supplémentaires.
Les annonces suivaient un schéma commun : une photographie inoffensive d’une fille ou adolescente — un seul cas impliquait un garçon — avec un texte superposé affirmant que « ce n’est pas juste une photo » et qu’il n’y a « aucune restriction » sur ce qui peut être fait avec l’image. Lors de la lecture, le visage du mineur fusionnait avec une vidéo sexuelle explicite. Les pièces dirigeaient les utilisateurs vers le téléchargement d’applications d’échange de visages par IA depuis les boutiques Apple et Google.
Selon Katie Paul, directrice du TTP, les chercheurs ont réussi à identifier quatre mineurs réels dont les images ont été utilisées : trois adolescentes influenceuses des États-Unis, l’une étant enregistrée comme modèle de photographie de stock sous la mention « préadolescente », et le membre de la famille royale européenne. Tous les cas ont été signalés au Centre national pour les enfants disparus et exploités (NCMEC) des États-Unis.
Les annonces ont touché plus de 29 000 comptes dans les pays de l’Union européenne et environ 7 000 au Royaume-Uni, selon les données de la bibliothèque publicitaire de Meta. Le chiffre réel de vues aurait été plus élevé : plus de 250 annonces ont circulé aux États-Unis, 120 en Australie et 80 en Inde, où l’entreprise ne publie pas de données détaillées sur les performances.

Une porte-parole de Meta, Tracy Clayton, a affirmé que l’entreprise « ne tolère aucune application de déshabillage ni aucune forme d’exploitation des mineurs, réelle ou générée par IA », et a soutenu qu’une grande partie des publicités découvertes par les chercheurs avaient déjà été retirées et que la plupart avaient eu moins de 200 impressions, avec des revenus publicitaires « inférieurs à 5 000 dollars ».

L’entreprise a attribué la difficulté de détection au fait que les vidéos combinaient du contenu pour adultes avec des extraits brefs ou floutés de mineurs.

La pression réglementaire a conduit Meta à renforcer ses systèmes

Cet épisode s’est produit parallèlement à un accord d’un montant allant jusqu’à 18 millions de dollars que Meta a conclu en août pour clore une action en justice intentée par 29 États américains liée à la protection des mineurs sur ses réseaux, selon TechCrunch. L’entreprise fait également appel d’une décision judiciaire au Nouveau-Mexique qui l’obligerait à améliorer ses processus de signalement de matériel d’abus sexuel sur les mineurs et à intégrer une révision humaine dans cet État.

Des législateurs et des régulateurs ont annoncé des enquêtes après la publication du rapport. Le sénateur Mark Warner a envoyé une lettre au directeur général de Meta, Mark Zuckerberg, qui n’a jusqu’à présent pas obtenu de réponse. Les procureurs généraux du Michigan et de la Floride, ainsi que le régulateur australien eSafety, ont confirmé qu’ils examinaient l’affaire.

En octobre, Meta a annoncé de nouveaux outils basés sur des modèles de langage capables d’analyser non seulement le contenu d’une publicité mais aussi la destination vers laquelle elle dirige, en réponse à une tactique que l’entreprise a qualifiée de « signalisation » : des annonces apparemment inoffensives qui conduisent vers des sites externes contenant du matériel illégal.

L’entreprise a affirmé avoir agi sur 33,2 millions d’éléments de contenu liés à l’exploitation sexuelle des mineurs sur Facebook et Instagram au cours du premier semestre de 2026, plus de 97 % ayant été détectés par ses propres systèmes avant toute plainte. En Inde, le chiffre s’élevait à 5,3 millions de contenus, avec un taux de détection proactive supérieur à 98 %.

Nouvelles couches de vérification et un « agent d’équipe rouge »

L’entreprise a ajouté des balayages supplémentaires d’intelligence artificielle pour localiser du matériel non détecté précédemment, ainsi qu’un « agent d’équipe rouge » conçu pour tester ses propres défenses. Elle a également renforcé les mécanismes permettant d’identifier les utilisateurs qui rouvrent des comptes après avoir été expulsés pour ce type de violations. Une équipe comprenant d’anciens enquêteurs du FBI réalise, selon l’entreprise, des enquêtes manuelles pour démanteler des réseaux de comptes prédateurs.

Meta n’a pas précisé de date pour une prochaine mise à jour publique sur les résultats de ces outils, bien qu’elle ait indiqué qu’elle continuerait à intégrer de nouveaux signaux de détection au fur et à mesure qu’elle identifierait des changements dans le comportement des réseaux dédiés à l’exploitation des mineurs.