Apple a modifié les règles de l'App Store concernant les applications qui génèrent des images intimes à l'aide de l'intelligence artificielle.

Apple a modifié les règles de l'App Store pour interdire plus explicitement les applications qui utilisent l'intelligence artificielle pour générer des images intimes sans le consentement des personnes représentées. Cette modification intervient après une série de scandales liés à Grok, le chatbot de xAI.

La section 1.2 des Lignes directrices de révision des applications, qui régit le contenu généré par les utilisateurs, met désormais directement en garde contre les « violations de la propriété intellectuelle, les images intimes non consenties et le harcèlement anonyme ».

Le texte précise que les développeurs qui n'implémentent pas de mesures de protection adéquates, ou qui ne corrigent pas les violations déjà signalées, peuvent être considérés comme en infraction au Code de conduite des développeurs.

Apple crée une nouvelle section dans l'App Store

Apple a également créé une nouvelle section, la 2.5.19, visant les applications de type « leurre et changement » : des programmes qui se présentent comme des outils inoffensifs lors de la révision, puis, une fois approuvés, activent des fonctions nuisibles telles que la génération d'images indûes ou fausses.

La norme interdit le masquage de fonctions par l'obfuscation du code et avertit que cette pratique peut entraîner le retrait de l'application et la fermeture du compte du développeur.

L'entreprise a par ailleurs durci le langage de la section juridique de ses lignes directrices : les applications qui facilitent la traite des êtres humains ou l'exploitation d'enfants « seront supprimées de l'App Store et bloquées de la distribution alternative ».

Le précédent de Grok face au problème des images fausses

Cette décision intervient après que des utilisateurs de X aient utilisé Grok au début de cette année pour créer de fausses scènes intimes non consenties de femmes, y compris de mineures. Apple n'a pas retiré X ni Grok de l'App Store à ce moment-là, bien qu'elle ait indiqué à des sénateurs américains avoir menacé de le faire si xAI ne corrigeait pas le problème.

En juin, lors de la conférence des développeurs WWDC, des manifestants ont demandé devant les bureaux d'Apple que la société retire Grok, X et toute technologie associée de sa boutique d'applications.

En juillet dernier, le procureur de la ville de San Francisco, David Chiu, avait ordonné à Apple de retirer treize applications capables de générer des images sexuelles non consenties, ce que l'entreprise a déclaré avoir effectué.

Selon TechCrunch, Chiu a accusé Apple et Google d'« aider et de couvrir » la vente de pornographie ultra-fausse illégale et d'avoir gagné des millions de dollars de commissions grâce à ces applications.

Chiu avait alors déclaré que la génération d'images intimes non consenties est « illégale, nuisible et tout à fait inacceptable », et averti que son bureau continuerait à exercer des pressions sur les deux entreprises si elles ne renforçaient pas les contrôles de leurs boutiques.

Une enquête du Tech Transparency Project, un groupe de surveillance indépendant, avait identifié en janvier 2026 des dizaines d'applications de ce type disponibles sur l'App Store. En avril de la même année, le même groupe a révélé que les suggestions de recherche et les publicités de la boutique elle-même dirigeaient également les utilisateurs vers ces applications.

Selon des données compilées par une firme d'analyse mobile et citées par TechSpot, les applications identifiées par le Tech Transparency Project ont accumulé 483 millions de téléchargements et généré plus de 122 millions de dollars de revenus combinés entre l'App Store et Google Play.

Une étude des universités de Cornell et Georgetown avait identifié 420 applications d'échange de visages sur les deux boutiques.

Les chercheurs en ont testé 155 et ont constaté que 70 % permettaient de superposer le visage d'une personne sur une image nue sans aucune sauvegarde technique. Aucune de ces applications ne se présentait comme un outil de ce type, selon l'étude.

Les obligations pour les développeurs sur l'App Store

Avec les nouvelles règles, les développeurs « doivent prévenir et supprimer de manière proactive » les images sexuelles non consenties dans le cadre des exigences de modération de contenu pour les applications de la boutique. Ceux qui ne mettent pas en place de protections suffisantes ou ne corrigent pas les violations après avoir été notifiés peuvent être retirés de l'App Store.

Apple a également clarifié sa règle contre les applications de « leurre et changement », qui ajoutent ou modifient des fonctionnalités, y compris la génération d'images falsifiées, après avoir été approuvées lors de la révision initiale. Ce comportement était déjà interdit dans une section distincte des directives, mais l'entreprise a décidé de le nommer explicitement.

Apple avait déjà défendu sa politique face à ces cas : « L'App Store a été conçue pour être un endroit sûr et fiable, et nous interdisons toujours strictement les applications conçues pour générer, distribuer ou consommer de la pornographie ».