Instagram : ils créent des fonctions pour protéger les jeunes des harceleurs qui demandent des photos explicites

« Les mesures de sécurité proposées par Meta au sein de son environnement crypté sont encourageantes. Nous espérons que ces nouvelles mesures augmenteront le signalement par des mineurs et mettront fin à la circulation de l'exploitation des enfants en ligne », a déclaré John Shehan, vice-président principal du Centre national pour les enfants disparus et exploités, dans une publication officielle de Meta.

Selon Meta, cet outil est également destiné à « protéger les gens contre les escrocs qui pourraient envoyer des images de nus pour inciter les gens à envoyer leurs propres images en échange ».

De plus, il est mentionné que la fonction de protection contre la nudité sera activée par défaut pour les adolescents de moins de 18 ans dans le monde. Pour les adultes, ces utilisateurs auront la possibilité d'activer cette fonctionnalité via les paramètres de l'application.

Dans ce qui a été annoncé par l'entreprise, il est souligné que tant les expéditeurs que les destinataires d'images nues recevront des notifications et des avertissements sur les risques possibles associés à l'envoi de ce type de contenu.

Les utilisateurs qui envoient des images nues recevront un message leur rappelant d'être prudents et leur offrant la possibilité de supprimer les images, tandis que ceux qui reçoivent ces images verront les images automatiquement floues sous un écran d'avertissement , leur donnant la possibilité de bloquer l'expéditeur et signaler le chat.

Meta a assuré que pour réaliser cette fonction, l'apprentissage automatique sera utilisé sur l'appareil pour analyser si une image envoyée dans un DM contient de la nudité. Cela signifie que Nudity Protection fonctionnera même dans les discussions cryptées de bout en bout, sans que Meta ait accès aux images, sauf si elles sont signalées par les utilisateurs.

D'autre part, Instagram met également en place des mesures supplémentaires pour prévenir le harcèlement et la manipulation sur sa plateforme. Ces mesures comprennent l'introduction d'outils permettant d'identifier les comptes potentiels impliqués dans des escroqueries de sextorsion , ainsi que la restriction des messages potentiellement dangereux envoyés par ces comptes au dossier de demandes caché du destinataire, l'empêchant ainsi d'être informé des messages.

En plus de ces initiatives, l'application collabore avec d'autres entreprises technologiques dans le cadre du programme Lantern, une initiative dirigée par la Tech Coalition qui permet aux entreprises de partager des signaux sur les comptes et les comportements qui violent leurs politiques de sécurité des enfants.

À cela s'ajoute que parmi les conseils donnés lors du partage de contenus explicites, les utilisateurs auront également accès à des liens vers des ressources d'entités spécialisées sur ces sujets, comme le Meta Safety Center, StopNCII.org pour les plus de 18 ans et Take It. Baisse pour les moins de 18 ans.

Cette coopération intersectorielle vise à lutter contre les escroqueries de sextorsion non seulement sur des plateformes individuelles, mais sur l’ensemble d’Internet, où les criminels peuvent changer de plateforme pour trouver de nouvelles victimes.

L'application Meta a assuré que tous ces outils sont encore en phase de test, ils ne sont donc pas encore officiellement disponibles. Cependant, l'accès est en cours de déploiement auprès d'un nombre limité d'utilisateurs pour poursuivre les tests finaux et le lancer ultérieurement sur tous les comptes du monde.