L'intelligence artificielle serait utilisée pour générer du contenu pour adultes basé sur des personnages d'anime

Les applications de l'intelligence artificielle pour la génération d'images se sont considérablement développées. Des programmes comme DALL-E2 et Stable Diffusion ont été rejoints par d'autres plateformes qui utilisent leurs services de différentes manières pour pouvoir générer leur propre contenu à la demande des utilisateurs.

Pour des raisons de sécurité, ces plateformes disposent de filtres qui interdisent la génération d'images pornographiques et d'images liées à la violence ou au gore. Cependant, ces limitations ont été rejetées et une intelligence artificielle a été générée qui permet la génération de contenu pour adultes malgré les abus et les abus que cette capacité peut générer pour les utilisateurs .

Contrairement à Stable Diffusion, l'intelligence artificielle utilisée pour générer des images réalistes, un groupe d'utilisateurs a créé un "homologue" appelé Unstable Diffusion , qui a la capacité de générer des images liées à la pornographie avec l'attrait d'être personnalisées pour convenir aux gens.

C'est la raison pour laquelle le financement de cette plateforme s'est principalement développé sur la plateforme Patreon , où plusieurs centaines de dollars ont été levés par divers donateurs.

Cas d'utilisation abusive de l'intelligence artificielle

Bien que ces intelligences artificielles aient la possibilité de générer des images suggestives liées aux personnages d' anime , ce qui a motivé le financement de son développement, le système derrière cette nouvelle IA génère des réponses négatives.

L'absence de filtres de sécurité dans Unstable Diffusion peut permettre le même traitement dans le cas d'images réalistes de personnes connues ou célèbres, susceptibles d'être lésées.

De plus, la génération de contenu sans restriction comme les autres IA peut faire partie d'un système malveillant de génération d'images pour de fausses nouvelles , ce qui pourrait encourager sa propagation et son amplification.

De plus, comme la génération de ces images pour des secteurs plus commerciaux tels que les images de stock dans les bibliothèques virtuelles , il y a un autre aspect à prendre en compte lié aux travailleurs de l'industrie pour adultes, qui implique des photographes et des designers rémunérés par des sociétés constituées formellement. Cette utilisation pourrait même affecter d'une manière ou d'une autre le travail qu'ils occupent actuellement.

Le contenu adulte sur d'autres plateformes telles que OnlyFans serait également concerné car les créateurs de contenu pourraient être victimes de ce type de contrefaçon virtuelle.

Bien que le site Web indique que les fausses images ne sont pas acceptées, il ajoute que le contenu généré par l'intelligence artificielle est dans les limites autorisées.

Selon TechCrunch, autoriser la publication de ce type de contenu sur une page comme OnlyFans aurait pour conséquence que les personnes qui travaillent à la création de contenu sur cette plateforme soient victimes d' usurpation d'identité et que leurs revenus soient lésés par l'utilisation de leur image sans leur consentement.

photos d'intelligence artificielle à vendre

Le commerce qui découle de la vente d'images produites par des intelligences artificielles n'est pas nouveau et il ne se produit pas seulement lorsqu'il s'agit de contenu pour adultes , mais aussi dans les sphères plus commerciales.

Shutterstock , l'un des plus grands sites d'images de stock au monde, prévoit d'intégrer un service spécial de génération d'images réalistes à l'aide de la technologie DALL -E2 pour les commercialiser.

Bien que cette idée n'ait pas encore été lancée officiellement sur le marché , la société d'archives d'images estime que cette prémisse aurait un impact positif sur le travail de ses clients car elle offrira davantage de possibilités d'exploration créative des images . Cependant, Craig Peters, le PDG de Getty Images , a indiqué que cela pouvait être considéré comme une violation du droit d'auteur lors de sa création.

Continuer à lire: