La nouvelle intelligence artificielle de Bumble détecte la nudité et le contenu inapproprié dans les conversations

Cette fonctionnalité, en développement depuis fin avril de cette année, est intégrée aux profils de l' application de rencontres et alertera les utilisateurs si un utilisateur envoie une photo inappropriée par message direct à une autre personne sans votre consentement .

Comment fonctionne le détecteur privé

Selon la déclaration publiée par l'entreprise, l'apprentissage automatique a été utilisé pour permettre à l' application de comprendre une photographie et de la détecter si elle contient une image pouvant être considérée comme nuisible pour l' utilisateur qui la reçoit.

Pour atteindre un haut niveau de précision dans la détection de ce contenu, comme indiqué dans le post sur le site officiel de la plateforme de rencontres , l'outil d'IA a été exposé à des images non sexuelles étiquetées "contenu borderline." , qui fait référence à des parties du corps comme les bras ou les jambes, afin que ceux-ci puissent être autorisés et que toute photographie ne soit pas classée comme contenu sensible ou inapproprié.

"L'ajout répété d'échantillons à la base de données de formation pour refléter le comportement réel des utilisateurs ou tester les erreurs de classification s'est avéré être un exercice réussi que nous avons appliqué pendant des années à tous nos efforts d'apprentissage automatique ", indique le communiqué.

De même, les photos contenant des armes sont également étiquetées comme contenu sensible et peuvent être signalées dans les médias intégrés à l' application .

"Lorsque ses performances ont été analysées dans différentes conditions, à la fois en ligne et hors ligne , nous avons atteint une précision d'environ 98 % (dans l'identification des cas de contenu sensible)", a déclaré le message de l'application de rencontres.

Si une personne reçoit ce type de contenu au sein de la plateforme Bumble , le système Private Detector floutera automatiquement l'image par défaut. Dans le cas où la personne souhaite voir le contenu de la photographie, il lui suffira d'appuyer longuement dessus et d' autoriser son visionnage . Sinon, vous pourrez le signaler à l'aide des mécanismes intégrés à l'application.

C'est ainsi que Bumble essaie d'empêcher le cyberflashing , une pratique de violence sexuelle numérique qui consiste à envoyer des images indésirables au contenu obscène ou des vidéos à caractère sexuel via des médias numériques. Quelque chose qui, malgré le fait que l'entreprise indique qu'elle représente moins de 0,1% des conversations au sein de l'application, peut arriver sur d'autres plateformes et réseaux sociaux .

De plus, en raison de l'intention que cet outil soit appliqué sur d'autres sites Web et plateformes de médias sociaux, Bumble a communiqué que le système basé sur l'intelligence artificielle est disponible pour les parties intéressées et est open source, de sorte que sa mise en œuvre dans d'autres services numériques sera encore plus facile

La publication sur le site Web indique que «le service standard de floutage des images sexuelles est disponible tel quel, mais peut être amélioré avec des copies de test supplémentaires. Toute amélioration de l'architecture du code ou de la qualité de sa structure est la bienvenue.

CONTINUER À LIRE: