Danger dans Grok, l'IA d'Elon Musk : Crée des images sans censure avec du contenu violent et sexuel.

Bien que la création d'images satiriques ou humoristiques de figures publiques puisse sembler inoffensive, les implications vont bien au-delà. La facilité avec laquelle il est possible de générer des deepfakes, c'est-à-dire des images ou vidéos fausses hyperréalistes, représente une menace pour la sécurité et la vie privée de toutes les personnes et autorités.

Cela ouvre la porte à ce que des célébrités soient mises dans des situations compromettantes qui ne sont pas réelles, comme générer des nus d'une chanteuse ou faire en sorte qu'un candidat à la présidence soit vu en train de faire quelque chose qui contredit ses idéaux.

Quelque chose qui est beaucoup plus dangereux dans des contextes comme les élections présidentielles aux États-Unis, car il est possible de créer des images de Donald Trump ou Kamala Harris avec des armes ou dans des situations qui peuvent être utilisées pour illustrer une information fausse en pleine tension lors de ce processus électoral.

Un autre point important est qu'il n'est pas connu si, au moment de générer une image avec Grook, des métadonnées indiquant son origine sont incluses, qui dans ce cas est le résultat d'un processus réalisé avec intelligence artificielle, ce qui complique encore plus l'identification de sa véracité.

Pour éviter toutes ces situations, d'autres modèles d'IA pour générer des images ont des restrictions pour que, au moment de recevoir une demande indue, la demande soit annulée et qu'il ne soit pas possible de générer le contenu.

Actuellement, X est déjà sous enquête par l'Union Européenne pour une présumée violation de la loi sur les services numériques, affirmant que le réseau social “trompe les utilisateurs” et ne s'ajuste pas aux pratiques standard de l'industrie. De plus, aux États-Unis, plusieurs propositions existent déjà pour freiner les deepfakes, après plusieurs cas où des mineurs ont été affectés et harcelés.

Sans oublier, que l'application a automatiquement autorisé la collecte de données des utilisateurs pour alimenter l'intelligence artificielle. Quelque chose qui n'a jamais été signalé et qui doit être désactivé manuellement pour éviter que Grok prenne les publications, interactions et résultats pour élargir ses connaissances et générer du contenu. Pour ce faire, les utilisateurs doivent se rendre dans la section Confidentialité et sécurité et retirer le permis qui est activé par défaut.

L'intelligence artificielle de X, développée par xAI, a récemment lancé une nouvelle version, de sorte que pour l'instant, il n'est possible de l'utiliser que via une version bêta et en faisant partie du service d'abonnement du réseau social.

En plus de permettre la création d'images, ce chatbot intégrera également d'autres fonctions de X, comme des améliorations dans la recherche, l'analyse des publications et des réponses automatiques. L'entreprise prévoit d'introduire un aperçu de la compréhension multimodale, qui pourrait révolutionner l'interaction sur la plateforme.

À la fin août, le lancement d'une API pour les entreprises est prévu, donnant aux développeurs la possibilité d'apporter cette technologie à leurs systèmes et de l'adapter selon leurs besoins, y compris la génération d'images.