Des étudiants de Miami suspendus pour avoir utilisé l'IA pour créer de fausses images de leurs camarades de classe nus

Les jeunes, dont l'identité n'a pas été révélée, sont accusés de promotion de représentations sexuelles altérées sans consentement, selon la police de Miami-Dade . Cet incident s'est produit hors du campus pendant les vacances de Thanksgiving , a rapporté NBC Miami .

L'enquête a précisé que les auteurs ont obtenu des photos de la tête des étudiants – hommes et femmes – à partir du compte de réseau social de l'école et ont utilisé une application deepfake artificiellement intelligente pour créer des images de nus, qui ont été partagées entre les étudiants sur les réseaux sociaux.

Cet événement a conduit certaines victimes à ne pas vouloir retourner en classe. Les élèves fautifs ont été initialement suspendus de l'école pendant 10 jours en Floride , mais certains parents exigent leur expulsion définitive, a rapporté le New York Post .

La pratique consistant à créer des deepfakes nus d’élèves sans méfiance affecte les districts scolaires de tout le pays, ce qui la rend difficile à éradiquer. Des incidents similaires se sont produits à la Westfield High School dans le New Jersey , où plus de 30 étudiantes ont découvert que des images fabriquées circulaient largement.

Les législateurs de plusieurs États ont introduit des lois visant à criminaliser la création et la distribution non consensuelles de matériel obscène et deepfake, offrant aux victimes des recours juridiques à la fois pénaux et civils.

Dans un autre contexte lié à l'intelligence artificielle , des difficultés académiques sont signalées dans les établissements d'enseignement en raison d'une mauvaise utilisation de l'IA dans la préparation des tâches.

Selon le média local WFTV9, l' Université de Floride centrale réprime la possibilité que les étudiants utilisent l'intelligence artificielle à des fins inappropriées, créant ainsi des difficultés pour ceux qui ne trichent pas pour prouver l'authenticité de leur travail.

À son tour, l’Université Bethune-Cookman interdit l’accès aux assistants de rédaction IA sur tous les serveurs universitaires, ce qui incite les professeurs à exiger des devoirs manuscrits pour garantir l’intégrité académique.

Deepfake : qu’est-ce que c’est et quels sont ses risques

Un deepfake est une technique d’intelligence artificielle qui permet d’éditer des vidéos ou des audios de personnes, leur faisant dire ou faire des choses qu’elles n’ont jamais dites ou faites. Il est basé sur des algorithmes connus sous le nom de réseaux contradictoires génératifs (GAN), qui utilisent deux réseaux de neurones : un pour créer de fausses images ou séquences et un autre pour détecter les fausses, dans un cycle d'amélioration continu jusqu'à obtenir des résultats hyperréalistes.

Cette technologie progresse rapidement et a atteint un point où les vidéos et les audios générés peuvent être presque impossibles à distinguer de la réalité, ce qui a soulevé des préoccupations éthiques et juridiques à l'échelle mondiale.

Les risques associés aux deepfakes sont importants et vont de la propagation de la désinformation à la menace pour la sécurité personnelle et nationale. Dans la sphère politique, la prolifération des deepfakes peut être utilisée pour créer de fausses déclarations ou comportements de personnalités publiques, influencer l’opinion publique ou déstabiliser les processus électoraux.

À titre personnel, les individus peuvent être victimes de harcèlement ou de chantage avec de faux contenus à caractère intime ou diffamatoire. De plus, les deepfakes peuvent compromettre la sécurité nationale en imitant les voix ou les images de dirigeants mondiaux pour simuler des événements diplomatiques ou militaires.