L'outil gratuit qui permet aux mineurs de signaler la diffusion d'images intimes sur Internet : comment ça marche

Face à des cas comme celui du Colegio Modelo Lomas, révélé cette semaine, où des élèves de troisième année auraient créé, distribué et vendu de fausses images pornographiques générées par l'intelligence artificielle de leurs propres camarades, Red por la Infancia met à la disposition des enfants, des filles et des adolescents d'Argentine un outil gratuit et anonyme appelé BajaloYa!, qui permet de demander la suppression de ce type de contenu des plateformes numériques sans avoir à partager les images avec quiconque. De plus, ils offrent un soutien pour les signalements.

Le cas de Lomas de Zamora a mis en lumière des dangers technologiques accrus pour les mineurs. Selon Micaela, mère d'une élève affectée, au moins quatre étudiants auraient agi ainsi : « Ils les vendaient, les partageaient avec d'autres écoles de la région, les ont également publiées sur des sites pornographiques avec le nom et le prénom des filles, ils faisaient des catalogues ».

Le matériel, créé à partir de photos réelles d'environ 40 élèves, aurait été élaboré à l'aide d'un outil d'intelligence artificielle payant. Les familles ont organisé une sit-in devant l'établissement après qu'il soit apparu que l'institution aurait su pendant des semaines sans les informer.

C'est dans ce type de situations que BajaloYa! apparaît comme une alternative concrète. L'outil est l'adaptation argentine de Take it Down, un service développé par le National Center for Missing & Exploited Children (NCMEC) des États-Unis, et fonctionne dans le cadre d'un accord de collaboration entre les deux organisations. L'initiative vise spécifiquement à permettre aux mineurs d'agir sans dépendre d'adultes pour initier le processus.

Le mécanisme central de BajaloYa! consiste à attribuer une empreinte numérique unique, techniquement connue sous le nom de valeur hash, à chaque image ou vidéo de nudité —partielle, totale ou sexuellement explicite— impliquant des personnes de moins de 18 ans. Les plateformes en ligne peuvent utiliser ces valeurs hash pour détecter le contenu sur leurs services et procéder à sa suppression. Ce qui distingue le système, c'est que tout le processus se déroule sans que l'image ou la vidéo ne quitte l'appareil de l'utilisateur et sans que personne ne puisse les voir.

Le processus de signalement en ligne est structuré en étapes. D'abord, l'utilisateur accède au site web, se rend dans la section « Crimes informatiques » et choisit s'il souhaite s'identifier ou agir de manière anonyme. Bien que les deux options soient valides, la plateforme recommande de fournir les données personnelles : le faire permet de recevoir une copie du signalement, de suivre l'avancement du dossier et de maintenir le contact avec le procureur pour fournir des informations supplémentaires.

Ensuite, les données de la personne dénoncée sont saisies —si elles sont connues— et les faits sont décrits avec le plus de détails possible. À cette étape, il est possible de joindre jusqu'à trois fichiers attestant de la situation, mais un avertissement clair est formulé : les images intimes ne doivent pas être téléversées, uniquement les fichiers permettant d'identifier la personne qui menace ou a distribué le contenu.

L'un des aspects que Red por la Infancia souligne avec un accent particulier est la préservation de la preuve numérique avant de déposer toute plainte. Les preuves dans les environnements numériques peuvent disparaître rapidement : un compte peut être fermé, les messages supprimés, les publications effacées et les plateformes ne conservent souvent certains journaux d'accès que pour une période limitée. C'est pourquoi l'organisation avertit que les messages, photos, audios, courriels, profils, discussions et journaux d'appels ne doivent pas être supprimés. Il n'est pas non plus recommandé de « nettoyer » l'appareil, de réinstaller des applications ou de le changer avant d'avoir terminé la plainte et sauvegardé les preuves. Modifier les fichiers originaux est également déconseillé : s'il est nécessaire de mettre en évidence un détail, cela doit être fait sur une copie.

Dans les cas où la plainte ne peut pas être déposée immédiatement, la plateforme fournit des directives permettant à l'utilisateur de préserver le matériel. Il est indiqué de faire des captures d'écran complètes —sans recadrage— incluant le nom d'utilisateur ou le profil, la photo de profil, la date et l'heure si elles apparaissent, le contenu du message ou de la publication, le nom de la plateforme et, le cas échéant, le nom du groupe ou du canal. Si la conversation est longue, les captures doivent être prises en séquence, sans saut.

Avec cela, il est recommandé de sauvegarder dans un fichier l'URL du profil et de la publication, le nom d'utilisateur, l'identifiant du compte si l'application l'affiche, et toute donnée de contact visible comme le téléphone ou l'adresse e-mail. Cet enregistrement est crucial car les profils peuvent changer de nom, être fermés ou disparaître avant que les autorités ne puissent y accéder.

Au-delà de BajaloYa!, Red por la Infancia propose ReConectate, une plateforme avec des guides et des instructions supplémentaires pour orienter les mineurs dans les différentes étapes du processus de plainte, avec différents canaux de communication disponibles pour résoudre les doutes sur la marche à suivre.

Parmi les avertissements que ReConectate ajoute aux directives de préservation, il en est un qui est souvent négligé : ne pas confronter l'agresseur depuis le compte affecté. Discuter, menacer ou tenter d'obtenir des informations par ses propres moyens peut augmenter le risque, mettre l'agresseur en alerte —ce qui conduit à fermer le compte ou à changer d'utilisateur— et contaminer le contexte probatoire.