Le jour où on te volera la mémoire

Un mardi quelconque

Martina a 43 ans, elle est directrice administrative dans une PME industrielle de la banlieue et utilise ChatGPT tous les jours depuis deux ans. Un mardi matin, elle tente de se connecter et le système lui indique que le mot de passe est incorrect. Elle réessaie. Elle demande une récupération. L'e-mail de récupération n'arrive jamais, car quelqu'un a déjà changé l'adresse e-mail associée au compte.

Au début, elle vit cela comme un petit désagrément, du genre « je vais régler ça ». Ce soir-là, au lit, elle commence à repasser mentalement ce qu'elle a raconté à cette fenêtre de chat au cours des deux dernières années. Et elle ne peut pas dormir.

Il y a les bilans de l'entreprise qu'elle a collés pour qu'il lui fasse un résumé pour le conseil d'administration. Le brouillon du licenciement d'un employé, avec nom, prénom et motifs. Les analyses de sang de son père, qu'elle a téléversées pour comprendre ce que signifiait « créatinine élevée ». Les questions sur son divorce, sur la pension alimentaire, sur la façon de parler à son fils adolescent de ce qui se passait. Les conversations de la nuit où, sans le dire explicitement, elle racontait à une machine qu'elle était épuisée et qu'elle ne savait pas si elle pouvait en supporter davantage.

Martina n'existe pas. Mais je connais beaucoup de Martinas. Et il est très probable que vous, qui lisez ceci, en soyez une.

Le journal intime que nous n'avions jamais pensé écrire

Pendant vingt ans, nous avons appris à prendre soin de notre e-mail, de notre banque en ligne et, plus tard, de notre WhatsApp. Nous savions que perdre l'une de ces comptes était grave. Ce que nous n'avons pas encore complètement compris, c'est que le compte de notre assistant d'intelligence artificielle vaut plus que tous les autres réunis.

La raison est simple. Nous écrivons à l'e-mail avec soin, car nous savons que quelqu'un va le lire. Nous posons des questions éparses à Google, de trois ou quatre mots. Mais nous parlons à un modèle de langage comme à un collègue de confiance, à un médecin, à un avocat ou à un thérapeute : avec du contexte, des détails, des noms propres et sans filtre. Nous expliquons le problème entier car plus nous lui racontons, mieux il nous répond.

Le résultat est un fichier que personne n'avait réussi à construire auparavant : un enregistrement ordonné, chronologique et consultable de ce qui nous préoccupe, de ce que nous planifions, de ce que nous cachons et de ce que nous n'osions demander à personne. Et à cela s'ajoutent des fonctions de plus en plus courantes : des mémoires persistantes qui résument qui nous sommes, des pièces jointes, des projets de travail et des connecteurs qui donnent à l'assistant un accès direct à notre e-mail, à notre calendrier et à nos dossiers dans le cloud.

Ceci s'est déjà produit. Plusieurs fois.

Il serait confortable de penser que tout cela est de la science-fiction ou de l'alarmisme d'experts. Les faits disent le contraire.

Les comptes sont déjà vendus sur le dark web. En juin 2023, le cabinet de cybersécurité Group-IB a détecté 101 134 appareils infectés par des logiciels malveillants contenant des identifiants ChatGPT, dont les enregistrements étaient commercialisés sur des marchés clandestins. Il n’a pas été nécessaire de pirater OpenAI : un e-mail de phishing, un fichier téléchargé sans réfléchir et un type de programme appelé infostealer, qui vide les mots de passe et les sessions enregistrés dans le navigateur, ont suffi. Le chef de la menace d’intelligence de l’entreprise a alors averti que les employés chargent dans ces outils des correspondances confidentielles et du code propriétaire de leurs entreprises.

Les conversations ont déjà été divulguées par millions. En février 2025, un criminel se faisant appeler « Gloomer » a publié sur un forum criminel ce qu’il affirmait être le contenu d’OmniGPT, une plateforme permettant d’utiliser plusieurs modèles d’IA à partir d’un même endroit : des données pour environ 30 000 utilisateurs et plus de 34 millions de lignes de chat. Parmi les fichiers exposés figuraient des identifiants, des clés API, des données de facturation, des captures d’écran WhatsApp et des certificats de casier judiciaire. Un détail qui devrait attirer notre attention : une grande partie des personnes touchées étaient originaires d’Amérique du Sud, en particulier du Brésil.

Les conversations sont déjà apparues sur Google. Entre juillet et août 2025, des milliers de chats que les utilisateurs avaient partagés via un lien se sont retrouvés indexés dans les moteurs de recherche. Il suffisait d’une recherche bien construite pour trouver des récits sur la santé mentale, les conflits familiaux, les problèmes juridiques et les stratégies commerciales. OpenAI a retiré la fonctionnalité, mais les copies en cache et les scrapers peuvent conserver ce contenu indéfiniment.

Et les fournisseurs échouent également. En mars 2023, une erreur dans ChatGPT a permis à certains utilisateurs de voir les titres des conversations d’autrui et des données partielles de paiement d’autres abonnés. La même année, des ingénieurs de Samsung ont collé du code source et des notes internes dans le chatbot pour résoudre des problèmes techniques, et l’entreprise a fini par restreindre l’utilisation de ces outils.

Aucun de ces cas n’a nécessité une attaque de film. Il a fallu ce qu’il y a de plus classique : un mot de passe réutilisé, un clic précipité, une configuration que personne n’a vérifiée, un employé aux bonnes intentions.

L’inventaire du trésor

Faisons l’exercice. Mettons-nous à la place du criminel qui vient d’entrer dans le compte de Martina, prend un café et commence à lire. Que trouve-t-il ?

• Santé. Des études médicales téléchargées pour « comprendre les valeurs », des symptômes consultés à trois heures du matin, des médicaments personnels et ceux de la famille, des diagnostics qui n'ont encore été confiés à personne. Ce sont des données sensibles au sens le plus strict de la loi, et parmi les plus précieuses.
• Finances. Résumés de cartes pour « organiser les dépenses », dettes, plans d'investissement, déclarations sur l'honneur, le montant de l'héritage en cours de discussion, la voiture que l'on souhaite vendre et à quel prix.
• Travail et entreprise. Bilans, budgets, stratégies commerciales, contrats avec clauses de confidentialité, procès-verbaux de conseil d'administration, code source, la liste des clients, le plan de restructuration qui n'a pas encore été annoncé.
• Données tierces. Voici le piège le plus silencieux : l'utilisateur ne s'expose pas seulement lui-même. Il expose l'employé dont il a rédigé le licenciement, le patient dont il a résumé l'histoire clinique, le client dont il a analysé le dossier, l'élève dont il a corrigé l'évaluation. Aucun d'eux n'a donné son consentement.
• Famille et enfants. Noms, âges, école, horaires, problèmes de comportement, conflits de garde. Des informations qui permettent de savoir où se trouve un enfant à 17 heures un mercredi.
• Vie affective et sexuelle. Consultations sur une relation, une infidélité, une orientation non rendue publique, messages pour lesquels on a demandé de l'aide pour les rédiger.
• Problèmes juridiques. Procès en cours, plaintes, stratégies de défense, dettes en souffrance, conflits avec le fisc.
• Vie émotionnelle. Angoisses, deuils, crises d'anxiété, confessions faites uniquement parce que « c'est une machine, elle ne me juge pas ».
• Identité et documents. Photos de la carte d'identité ou du passeport jointes pour compléter une démarche, curriculums vitae avec adresse et téléphone, signatures numérisées.
• Routines et localisation. Voyages planifiés avec des dates exactes (la maison vide), la salle de sport, le quartier, le trajet quotidien.
• Secrets techniques. Mots de passe et clés API collés « pour que le code fonctionne », accès aux serveurs, configurations des systèmes de l'entreprise.

Mais l'inventaire ne s'arrête pas à l'historique. Il y a trois couches supplémentaires qui passent souvent inaperçues :

1. La mémoire. De nombreux assistants sauvegardent un profil résumé de l'utilisateur : son travail, sa famille, ses préférences, ses préoccupations. Le criminel n'a pas besoin de lire deux ans de chats ; le système a déjà fait le résumé pour lui.
2. Les connecteurs. Si le compte a accès à la messagerie, au calendrier, à Drive ou à des outils de travail, celui qui le contrôle peut demander à l'assistant de rechercher, lire et croiser les informations de toutes ces sources. Le compte d'IA devient alors la clé maîtresse de tout le reste.
3. Les agents. Les assistants qui peuvent déjà envoyer des e-mails, remplir des formulaires ou naviguer au nom de l'utilisateur ne se contentent pas d'exposer des informations : ils permettent d'agir. Un intrus peut écrire au comptable, à la banque ou au partenaire avec la voix exacte de la victime, depuis ses propres outils.

Que fait un criminel avec votre vie dans un chat

L'information, en soi, ne fait pas de mal. Ce qui blesse, c'est ce que quelqu'un décide d'en faire. Et avec un historique d'IA entre les mains, les possibilités sont vastes.

Extorsion sur mesure. Inutile désormais d'inventer une vidéo compromettante ou d'envoyer un e-mail générique du type « j'ai accès à ta caméra ». Le cybercriminel peut citer textuellement ce que la victime a écrit sur son diagnostic, son infidélité ou sa dette. La menace est crédible parce qu'elle est vraie.

Fraude avec la voix exacte de la victime. Deux ans de conversations apprennent comment une personne écrit, quels mots elle utilise, comment elle salue, à qui elle tutoie. Avec cela, un faux message au conjoint, à la trésorerie de l'entreprise ou à la mère (« je suis dans un problème, transfère-moi de l'argent tout de suite ») devient indistinguable du réel. Si l'on ajoute une voix clonée par intelligence artificielle, la fraude du « faux proche » atteint un autre niveau.

Phishing chirurgical. L'attaquant sait que la victime attend la réponse de sa banque concernant un crédit, qu'elle a un rendez-vous médical jeudi et que son enfant va dans une école spécifique. Chacune de ces données est un appât parfait.

Vol d'identité. Documents numérisés, adresse, date de naissance, numéro fiscal, données professionnelles : tout ce qui est nécessaire pour demander un prêt, ouvrir un compte ou obtenir une ligne de crédit au nom d'autrui.

Espionnage corporatif. L'historique d'un dirigeant vaut plus que celui de dix employés. Stratégies, prix, négociations, fusions, vulnérabilités techniques : des informations que la concurrence ou un groupe de rançongiciels paieraient volontiers.

Accès en chaîne. Les mots de passe et clés collés dans un chat ouvrent des serveurs, des systèmes de facturation et des bases de clients. Un compte personnel compromis peut devenir la porte d'entrée vers toute une organisation.

Dommage réputationnel. Parfois, l'objectif n'est pas l'argent mais l'exposition : publier les conversations d'un fonctionnaire, d'un journaliste, d'un entrepreneur ou d'un médecin. Une fois diffusées, il n'y a plus moyen de les récupérer.

Menaces à la sécurité physique. Dates de voyage, horaires des enfants, trajet quotidien. Il y a des données qui ne se vendent pas : elles s'utilisent.

Ce qui se passe dans un répertoire

Revenons à Martina. Les bilans de son entreprise, le projet de licenciement et la liste des fournisseurs n'étaient pas dans un système corporatif. Ils étaient dans son compte personnel, gratuit, créé avec son adresse Gmail. Personne dans l'entreprise ne le savait. Personne ne l'avait autorisé. Personne ne l'avait interdit.

Cela a un nom : Shadow AI. Il s'agit de l'utilisation d'outils d'intelligence artificielle en dehors de tout contrôle organisationnel, presque toujours avec les meilleures intentions : travailler plus vite, rédiger mieux, comprendre un Excel impossible. Le problème est que, lorsque ce compte personnel tombe, l'entreprise subit une fuite de données sans avoir jamais eu la possibilité de la prévenir, de la détecter ou de la signaler.

Il faut alors poser la question, celle qui devrait ouvrir la prochaine réunion du conseil d'administration :

Combien de personnes dans votre organisation ont aujourd'hui, sur un compte personnel d'IA que vous ne contrôlez pas, des données de vos clients, de vos employés ou de votre stratégie ?

Si la réponse honnête est « je ne sais pas », le risque existe déjà. Il n'a simplement pas encore de date.

Ce que dit la loi (et ce qui n'est pas pardonné)

En Argentine, la Loi 25.326 sur la protection des données personnelles définit comme données sensibles celles qui révèlent, entre autres, des informations de santé ou de vie sexuelle, et leur accorde une protection renforcée. Cette même norme oblige quiconque traite des données à adopter des mesures de sécurité pour éviter leur perte ou leur accès non autorisé, et impose un devoir de confidentialité. Le fait qu'un employé ait collé ces données dans un chatbot par ses propres soins ne transfère pas la responsabilité : l'organisation reste celle qui devait les garder.

S'ajoute à cela la Convention 108+ du Conseil de l'Europe, que l'Argentine a approuvée par la Loi 27.699 et qui élève les normes en matière de sécurité et de notification des incidents. Pour les entreprises ayant des clients européens, le Règlement général sur la protection des données ajoute des obligations et des amendes d'une autre échelle. Et pour les médecins, avocats, comptables ou psychologues, c'est quelque chose de plus ancien que n'importe quelle loi sur les données qui est en jeu : le secret professionnel.

Il y a, en outre, un fait qui devrait dissiper toute illusion d'intimité. En juillet 2025, le propre PDG d'OpenAI, Sam Altman, a reconnu publiquement que les conversations avec ChatGPT ne bénéficient pas de la protection légale dont jouissent les échanges avec un médecin, un avocat ou un thérapeute. S'il n'y a même pas de privilège devant un juge, il y en a encore moins devant un criminel.

Que faire aujourd'hui, avant qu'il ne soit trop tard

La solution n'est pas d'arrêter d'utiliser l'intelligence artificielle. Ce serait aussi absurde que d'arrêter d'utiliser le courrier électronique parce qu'il existe du phishing. La solution est de l'utiliser ou, du moins, d'essayer de l'utiliser avec la même maturité avec laquelle nous avons appris à utiliser le home banking.

Si vous utilisez l'IA dans votre vie personnelle

1. Activez la vérification en deux étapes ou, mieux encore, une passkey. C'est la mesure qui freine le plus d'attaques et celle que le moins de gens ont configurée.
2. Utilisez un mot de passe unique pour votre compte d'IA et pour l'e-mail associé. Si vous réutilisez des mots de passe, votre sécurité est celle du site le moins bien protégé où vous vous êtes inscrit.
3. Vérifiez les sessions et les appareils actifs et fermez ceux que vous ne reconnaissez pas.
4. Voyez ce que sait la mémoire de votre assistant et supprimez ce que vous ne voulez pas voir enregistré. Si vous n'en avez pas besoin, désactivez-la.
5. Faites le ménage dans l'historique. Ce qui n'est pas là ne peut pas être volé. Pour les consultations délicates, utilisez les chats temporaires ou le mode sans historique.
6. Vérifiez les liens partagés et les connecteurs. Supprimez les liens publics que vous n'utilisez plus et déconnectez l'accès à la messagerie, au calendrier ou au Drive si vous ne les utilisez pas.
7. Avant de coller, anonymisez. Remplacez les noms, numéros d'identité, montants et adresses par des données génériques. Pour comprendre une analyse clinique, l'assistant n'a pas besoin de savoir comment s'appelle votre père.
8. Ne collez jamais de mots de passe, de clés API ni de photos de documents. Aucune réponse ne vaut ce risque.
9. Appliquez la règle de la vitrine : si vous n'accepteriez pas que ce texte soit publié avec votre nom, réfléchissez à deux fois avant de l'écrire.

Si vous êtes responsable d'une organisation

1. Partez du principe que le Shadow AI existe déjà dans votre entreprise et évaluez-le avant de le juger. Interdire sans offrir d'alternatives ne fait que le pousser davantage vers l'ombre.
2. Proposez des outils corporatifs avec une connexion centralisée, une authentification forte et des conditions contractuelles excluant l'utilisation de vos données pour l'entraînement.
3. Rédigez une politique d'utilisation de l'IA claire et brève : quels outils sont autorisés, quelles informations ne doivent jamais être chargées et à qui s'adresser en cas de doute.
4. Classez les informations. Personne ne peut protéger ce qu'il ignore être sensible.
5. Intégrez des contrôles techniques : prévention des fuites de données, outils d'anonymisation avant le chargement et surveillance des accès.
6. Formez avec des cas réels, pas avec des manuels. Les gens changent d'habitude quand ils comprennent ce qui peut leur arriver à eux-mêmes.
7. Incluez l'IA dans le plan de réponse aux incidents. Si demain le compte d'un manager est compromis, qui fait quoi, en combien de temps, et à qui faut-il notifier ?

La mémoire que nous offrons

Pendant des siècles, les secrets d'une personne étaient répartis : un peu dans la tête du médecin, un peu dans le cabinet de l'avocat, quelque chose dans un tiroir, beaucoup dans la propre mémoire. Pour tous les voler, il fallait assaillir de nombreux lieux à la fois. Pour la première fois de l'histoire, des millions de personnes rassemblent tous ces secrets en un seul endroit, triés par date et prêts à être lus. Et elles les protègent avec le même mot de passe qu'elles utilisent pour la livraison.

Je n'écris pas ceci pour générer de la peur. Je l'écris parce que dans les années que j'ai passées à travailler sur la protection des données, j'ai appris quelque chose qui se répète à chaque incident : personne ne pense que cela va lui arriver, jusqu'à ce que cela arrive. Et quand cela arrive, ce qui fait le plus mal n'est pas ce qui a été perdu, mais ce qui aurait pu être évité avec dix minutes de prévention.

Alors je te propose quelque chose de concret. Aujourd'hui, avant la fin de la journée, ouvre ton assistant IA et demande-toi : si quelqu'un lisait tout cela demain, que pourrait-il faire avec ma vie ? Et si tu diriges une entreprise, pose la même question multipliée par chaque personne qui travaille avec toi.

L'intelligence artificielle est là pour rester. La question n'est pas de savoir si nous allons l'utiliser, mais si nous continuerons à traiter comme un jouet l'outil qui en sait déjà plus sur nous que notre propre famille.