Découverte : comment il est possible de récupérer des conversations d'IA supprimées du téléphone

Les chercheurs du Georgia Tech ont développé un outil capable de récupérer des conversations d’intelligence artificielle que les utilisateurs croyaient supprimées à jamais de leurs téléphones.

Cette découverte remet en question une idée répandue parmi ceux qui utilisent des assistants IA locaux : effacer un chat équivaut à le supprimer complètement. L’outil, baptisé ORISA, démontre qu’une grande partie de ces informations reste accessible même après avoir appuyé sur le bouton de suppression.

Comment est-il possible de récupérer des chats IA sur un téléphone

Lorsqu’un assistant d’intelligence artificielle fonctionne directement sur un téléphone, au lieu d’envoyer les conversations à un serveur dans le cloud, ces données sont stockées temporairement dans la mémoire vive de l’appareil. C’est le principe de confidentialité offert par les modèles locaux.

Cependant, tant que l’application reste en fonctionnement, des fragments de ces conversations peuvent persister dans cette mémoire même si l’utilisateur a supprimé le chat depuis l’interface. Supprimer n’implique pas nécessairement de détruire.

ORISA trace ces résidus et les reconstruit en une session IA fonctionnelle, avec laquelle il est possible de continuer à interagir comme si la conversation n’avait jamais été supprimée.

Selon les chercheurs eux-mêmes, l’outil est un système forensique qui récupère des fragments de chats IA supprimés du téléphone et les transforme en une session fonctionnelle, démontrant que la suppression depuis une application ne supprime pas les données de la mémoire de l’appareil, mais qu’elles peuvent persister et être reconstruites par un tiers ayant un accès technique.

Pour tester l’outil, l’équipe a créé un assistant fictif appelé Project Note Keeper en utilisant l’application Android ChatterUI. Elle lui a fourni cent données inventées sur un projet, puis a supprimé la conversation complètement.

La fenêtre de mémoire active du modèle était limitée : au moment de la suppression, la session originale ne pouvait accéder qu’à 14 des cent données fournies. Le reste avait été exclu de sa mémoire vive active.

En appliquant ORISA sur la mémoire de l’appareil, les chercheurs ont réussi à reconstruire une nouvelle session fonctionnelle qui a récupéré 26 de ces cent données, presque le double de ce que la session originale avait disponible au moment de sa suppression.

L’expérience a été répétée dans 60 configurations de test, couvrant 10 applications Android différentes et trois modèles d’intelligence artificielle différents. Dans tous les cas, l’outil a réussi à récupérer des informations de conversations qui avaient été supprimées par l’utilisateur.

Quelles implications pour la sécurité des utilisateurs

La découverte offre une double lecture. D'une part, elle constitue un outil de valeur forensique pour les chercheurs numériques, qui pourraient reconstituer les informations partagées avec un chatbot et les réponses reçues, ce qui est pertinent dans des cas où des conseils d'une IA auraient pu nuire à des patients sans que leurs médecins n'aient accès à ces conversations.

Les chercheurs ont eux-mêmes souligné qu'une faiblesse de l'IA locale réside dans l'absence de « journalisation et application centralisées ». Cette lacune permet, en théorie, à des acteurs malveillants d'ajuster des modèles à des fins criminelles puis d'éliminer les preuves, rendant le traçage plus difficile pour les enquêteurs forensiques traditionnels.

D'autre part, cette même capacité suscite l'inquiétude des utilisateurs ordinaires d'applications d'IA sur appareil. L'idée qu'un chat supprimé cesse d'exister ne correspond pas à ce qui se produit techniquement dans la mémoire du téléphone.

ORISA, pour l'instant, est un outil conçu pour les chercheurs et non une application disponible pour que quiconque restaure ses propres chats. Elle nécessite un accès direct à une copie de la mémoire et du stockage du téléphone, ce qu'un utilisateur lambda ne peut pas obtenir facilement.

De plus, son efficacité dépend du temps écoulé : plus le téléphone est utilisé après la suppression d'une conversation, plus cette mémoire est écrasée par de nouvelles activités, ce qui complique la récupération.

Cependant, si des acteurs malveillants parvenaient à recréer une technologie similaire ou à accéder à un outil comme ORISA, ils pourraient l'utiliser pour récupérer des chats supprimés d'autrui et reconstituer des requêtes en utilisant ces informations comme contexte.