Tu veux avoir une petite amie ? Ils sont créés avec l'intelligence artificielle mais ils volent des données en tombant amoureux

Il existe différentes manières de trouver un partenaire ou de lutter contre la solitude. Avec l’essor actuel de l’intelligence artificielle, cette technologie a bien entendu atteint ce domaine.

« Pour être franc, les copines IA ne sont pas vos amies. Bien qu’ils soient commercialisés comme quelque chose qui améliorera votre santé mentale et votre bien-être, ils se spécialisent dans la génération de dépendance, de solitude et de toxicité, tout en extrayant autant de données que possible », indique une enquête de la Fondation Mozilla.

Cette organisation a étudié 11 chatbots romantiques et de compagnie, en particulier leurs politiques de confidentialité et de protection des données. Le rapport a déterminé que ces couples alimentés par l’IA peuvent être aussi toxiques qu’une vraie personne.

De nombreux services de chatbot romantiques ou « épouses IA » présentent des fonctionnalités similaires. Ils montrent fréquemment des images de femmes créées par l’intelligence artificielle, avec une approche sexualisée ou accompagnées de messages provocateurs.

Au cours de son enquête, l’équipe de Mozilla a examiné une variété de ces chatbots, petits et grands, y compris ceux qui se présentent comme des « petites amies ».

Ils ont également analysé les applications offrant un soutien émotionnel sous forme d’amitié ou d’intimité, ainsi que celles permettant les jeux de rôle et l’exploration fantastique.

Jen Caltrider, responsable du projet « Privacy Not Included » de Mozilla, a déclaré : « Ces applications sont conçues pour collecter une tonne d'informations personnelles. »

Il a ajouté qu'ils encouragent l'utilisateur à participer à des jeux de rôle sexuels, à partager des détails intimes et à révéler de nombreuses informations personnelles.

Par exemple, dans les captures d'écran du chatbot EVA AI, vous pouvez voir des messages disant « J'aime que vous m'envoyiez vos photos et votre voix » et demander à l'utilisateur s'il est « prêt à partager tous vos secrets et vos souhaits ».

Caltrider souligne plusieurs problèmes avec les applications et sites Web de ce type. Le manque de transparence concernant le traitement des données avec des tiers, la localisation des entreprises ou l'identité des créateurs est frappant.

De plus, il mentionne que certaines applications permettent l'utilisation de mots de passe faibles et offrent peu d'informations sur l'intelligence artificielle qu'elles utilisent. L'analyse effectuée a révélé que chaque application présentait des problèmes et des utilisations différents.

Un cas spécifique est Romantic AI, une plateforme qui offre la possibilité de « créer sa propre petite amie IA ». Sur sa page d'accueil, elle est promue avec des images d'un chatbot qui envoie des messages suggestifs, tels que « Je viens d'acheter une nouvelle lingerie. Tu veux la voir?".

Bien que leur politique de confidentialité garantisse qu'ils ne vendent pas les données des utilisateurs, les recherches de Mozilla ont révélé que, dans la minute suivant son utilisation, l'application envoyait 24 354 trackers publicitaires.

La plupart des applications de chatbot romantique analysées, sauf une, ont la capacité de partager ou de vendre des données personnelles. EVA AI Chat Bot et Soulmate étaient l'exception.

Les autres applications confirment qu'elles vendent les données, les partagent à des fins de publicité ciblée ou ne fournissent pas suffisamment d'informations dans leurs politiques de confidentialité pour garantir qu'elles ne se livrent pas à ces pratiques.

Environ la moitié de ces applications (54 %) n'offrent pas la possibilité de supprimer les données personnelles de l'utilisateur. Selon leurs conditions, environ la moitié accordent aux utilisateurs le droit de demander la suppression de leurs données.

La fondation fournit quelques consignes de sécurité si les gens souhaitent continuer à utiliser ce type d’IA.

• Adoptez une bonne cyber-hygiène en utilisant un mot de passe fort et en gardant l'application à jour.
• Supprimez les données personnelles ou demandez à l'entreprise de les supprimer lorsque le service est terminé.
• Limitez l'accès à l'emplacement, aux photos, à l'appareil photo et au microphone à partir des paramètres de l'appareil.
• Surtout, ne partagez pas d’informations personnelles. « NE dites PAS à votre ami IA quelque chose que vous ne voudriez pas que votre cousin ou vos collègues lisent », a prévenu l'organisation.