Twitch supprimera les comptes qui partagent du contenu sexuel avec des deepfakes

Une mise à jour des termes et conditions de Twitch indique que tout contenu pornographique réalisé à l'aide d'une technologie de contrefaçon profonde, qui imite l'apparence physique d'une personne, sera supprimé.

Désormais, tout compte utilisé comme moyen d'exposer publiquement tout type de photographies , vidéos ou autres types de fichiers numériques susceptibles d'être inclus dans la catégorie " deep fake porn " sera définitivement supprimé de la plateforme.

Bien que ce type de problème ne soit pas courant, les femmes qui créent du contenu sur la plateforme sont exposées à d'autres utilisant leurs images sans consentement pour créer ce type de contenu sexuel.

Changement de terminologie Twitch

La mesure prise par la plateforme de streaming consiste également à mettre à jour les termes utilisés pour désigner ce type de publication et ainsi éviter les interprétations ambiguës.

Après consultation d'experts dans le domaine, il a été décidé d'utiliser le terme « images synthétiques d'exploitation non consensuelles » ou « NCEI synthétiques » pour désigner des images ou des vidéos similaires. Cela a conduit au changement de deux politiques de sécurité sur la page :

- Dans la rubrique « Violences et exploitation sexuelles », Twitch a déclaré qu'« il sera plus clair que la promotion, la création ou le partage de NCEI synthétiques peut entraîner la suspension indéfinie du compte » immédiatement après la première infraction de ce type.

- Dans la section "Adult Nudes", le NCEI synthétique sera inclus comme l'un des moyens de violer cette politique, donc "le montrer brièvement, même si c'est pour exprimer sa désapprobation ou son indignation avec la création de ce contenu sera un motif de la suppression de la vidéo de la plateforme et entraînera une pénalité .

La raison du changement est que, bien que le NCEI synthétique soit déjà un contenu interdit dans les politiques de Twitch avant le changement, l'utilisation de la terminologie appropriée aidera à reconnaître ces cas et à donner la sanction correspondante aux créateurs ou utilisateurs qui partagent ces publications .

D'autre part, l'application a indiqué que même si elle contrôle le contenu partagé dans les émissions, l'idée de ces changements est d'aider les créateurs à se protéger de ces types de publications et à y répondre rapidement dans n'importe quel type. de contexte. , raison pour laquelle des ressources supplémentaires ont également été fournies pour le signalement et l'élimination de ce type d'images ou de vidéos.

Alors que le contenu deep fake contenant des éléments sexuels sera totalement interdit, Twitch reconnaît également que tous les messages utilisant cette technologie ne seront pas punissables.

"Ce sujet est sur notre radar et nous surveillons en permanence les comportements émergents afin que nos politiques restent pertinentes", a assuré la plateforme.

L'application de ces changements dans toutes les transitions en direct de la plateforme aura lieu à partir du 14 mars 2023 et les créateurs de contenu seront informés des éventuelles modifications supplémentaires de cette politique de sécurité ou d'autres dans le but d'améliorer l'expérience des utilisateurs.