Lensa, l'application d'IA sexualiserait les femmes dans leurs avatars

Dans une enquête menée par le magazine MIT Technology , il a été constaté que la populaire application d'intelligence artificielle (IA), Lensa, est en quelque sorte en train de sexualiser les femmes , lorsqu'elles modifient leur apparence si elles étaient un personnage d'anime. être.

Selon un article publié par ce média, lors de la réalisation d'un exercice de création d'avatar avec une femme asiatique , l'application a produit une série de photos en minuscules vêtements, dans lesquelles il était possible de voir comment il y avait un certain stéréotype au moment où L'intelligence artificielle a fait son travail pour changer la photo de la femme.

Alors que pour les hommes, ils étaient présentés comme des astronautes, des guerriers ou avec des images pour des albums de musique. Selon l'article, Lensa génère des photos à travers des images basées sur des invites de texte, puis extrait ces images.

"Sur les 100 avatars que j'ai générés, 16 étaient seins nus et 14 autres me montraient dans des vêtements extrêmement minuscules et des poses ouvertement sexualisées", ont-ils commencé dans l'article, au moment où ils expliquaient que plusieurs catégories étaient utilisées pour tester cette nouvelle technologie.

Lensa, est une application téléchargeable sur iOS et Android , dans laquelle vous créez des avatars à l'aide de « Stable Diffusion », un modèle d'IA open source qui génère différentes images à partir d'indicateurs textuels stockés sur le Web.

"Stable Diffusion" est formé sur LAION-5B , un ensemble de données open source massif qui a extrait des images d'Internet, c'est pourquoi en effectuant la transformation, il peut en quelque sorte sexualiser la femme, car la grande majorité des photos sur le web sont de femmes nues.

Cela peut vous intéresser :

Et c'est que selon ce qu'Aylin Caliskan , professeure adjointe à l'Université de Washington qui étudie les préjugés et la représentation dans les systèmes d'IA, raconte ce milieu, "les femmes sont associées au contenu sexuel, tandis que les hommes sont associés au contenu professionnel lié à la carrière dans n'importe quel domaine majeur tel que la médecine, la science, les affaires, etc.

L'IA et les femmes sur le web

De même, un porte-parole de Prisma Labs, la société derrière Lensa, affirme que tous les genres sont confrontés à une "sexualisation sporadique", mais ils avertissent que ces décisions pourraient causer des dommages évidents, comme un accès facile aux générateurs de deepfake qui créent des images nues de femmes ou d'enfants. sans consentement.

Lensa est née en 2018 et a été utilisée par des milliers de personnes à travers le monde, pour vivre dans ce fantasme de ce que ce serait d'être dans un anime ou une bande dessinée. L'application crée différentes images à travers des selfies , et là, les gens l'utilisent pour les partager sur leurs réseaux sociaux et montrer ce changement apporté par l'IA.

Cependant, Aylin Caliskan a indiqué qu'il prévoyait des problèmes encore plus importants à long terme. "Alors que les images générées par l'IA avec leurs biais intégrés inondent Internet, elles finiront par devenir des données de formation pour les futurs modèles d'IA", a-t-il noté.

Voici comment vous pouvez créer votre avatar

La première chose que vous devez faire est de télécharger l'application Lensa et de l'ouvrir sur votre mobile. Une fois à l'intérieur, vous devez cliquer sur le bouton Magic Avatars qui apparaîtra en bas de l'application.

Là, il vous demandera de choisir plus de 10 selfies que vous souhaitez convertir, ils ne peuvent pas être des photos que vous êtes avec une autre personne, ou de profil. Déjà lors de leur sélection, vous pouvez choisir les catégories dans lesquelles vous souhaitez modifier ces photographies, actuellement il a plus de 20 styles.

Là, vous pouvez créer 50, 100 ou 200 avatars, et dans chaque cas, vous devrez effectuer un paiement unique avec eux. Dans le cas où vous avez un abonnement dans l'application, le coût des avatars sera moins élevé.