Le chatbot Pornhub bloque les recherches de contenu pédopornographique au Royaume-Uni

Au cours des deux dernières années, les tentatives d'accès à des vidéos de pédophilie sur Pornhub au Royaume-Uni ont été déjouées 4,4 millions de fois.

Pornhub, qui fait partie d'Aylo (anciennement MindGeek), a mis en place ce système de filtrage basé sur une liste de 34 000 termes interdits.

Cette liste, qui comprend des termes dans plusieurs langues et couvre des millions de combinaisons possibles, est essentielle pour empêcher l'accès au matériel pédopornographique, a déclaré à Wired un porte-parole de l'entreprise.

Le système d'alerte et le chatbot, développés en collaboration avec l'Internet Watch Foundation (IWF), une entité dédiée à la suppression en ligne des contenus pédopornographiques, et la Lucy Faithfull Foundation, une organisation qui lutte contre les abus sexuels sur enfants, sont apparus des millions de fois. devant les utilisateurs au Royaume-Uni.

Selon le rapport, ces mesures ont contribué à une « réduction significative » des recherches de contenus abus sexuels sur enfants (CSAM) sur le site, suggérant un impact positif du chatbot et des messages d’avertissement sur cette diminution.

« Le nombre de recherches est vraiment surprenant », déclare Joel Scanlan, professeur à l'Université de Tasmanie qui a dirigé l'évaluation du reThink Chatbot. Au cours de la période de test, 4 400 960 avertissements ont été émis pour des tentatives d’accès à du contenu pédopornographique (CSAM) sur Pornhub au Royaume-Uni.

"Il y a eu une diminution notable du nombre de fouilles tout au long de l'intervention", explique Scanlan, confirmant que "les messages visant à décourager ce comportement sont efficaces".

Le fonctionnement du chatbot était assez simple : il posait une série de questions aux personnes, qui pouvaient y répondre en sélectionnant des boutons ou en tapant leurs réponses manuellement.

Enfin, ils ont été informés de la possibilité que le contenu recherché soit illégal et dirigés vers les services d'aide fournis par la Fondation Lucy Faithfull.

Grâce au chatbot, 1 656 demandes d’informations complémentaires ont été effectuées et 490 personnes ont accédé au site Stop It Now, géré par la fondation.

De plus, environ 68 personnes ont contacté ou parlé au service d'assistance confidentiel de la Fondation Lucy Faithfull, selon le rapport.

Donald Findlater, directeur de Stop It Now, mentionne que même si ces chiffres peuvent paraître « relativement modestes » par rapport au nombre total d'avertissements émis, ils sont considérés comme un « grand succès » car ils indiquent qu'il existe des individus prêts à demander de l'aide.

« Prendre l'initiative de cliquer représente une étape importante pour quelqu'un qui a consulté du contenu douteux sur un site », argumente Findlater.

La plupart des personnes qui ont rencontré le message d’avertissement et le chatbot ne l’ont ressenti qu’une seule fois. Environ 1,7 million d'utilisateurs ont vu un avertissement avant de quitter Pornhub ou de passer à la recherche de contenu légal.

« Ils ne sont pas simplement partis ; Pour la plupart, ils sont restés sur le site à la recherche d'autre chose », explique Findlater. "L'impact positif sur des millions de personnes qui ont arrêté de rechercher des contenus douteux est une grande réussite."

Cependant, certains utilisateurs ne se sont pas arrêtés aux avertissements. Dans les cas les plus persistants, environ 400 personnes ont effectué 10 recherches qui ont déclenché le message d'alerte.

Findlater, qui fait partie de l'initiative Stop It Now, exprime son espoir que d'autres entreprises, notamment les réseaux sociaux et les plateformes d'hébergement de fichiers, puissent prendre note des résultats obtenus dans ce test et envisager de mettre en œuvre des mesures similaires pour intervenir en cas de recherches à caractère sexuel sur des enfants. contenu abusif.