Une expérience du MIT démontre comment l'IA peut manipuler nos souvenirs.

Une expérience du Massachusetts Institute of Technology (MIT) a sonné l’alarme sur les limites entre ce que nous voyons et ce que nous croyons nous souvenir. La professeure Pattie Maes et son équipe ont montré 24 photographies courantes (un mariage, une rue, une course) à 200 personnes.

Après une pause, une partie du groupe a revu les mêmes images. L’autre partie a vu des versions modifiées par l’intelligence artificielle, avec des expressions faciales altérées, des militaires insérés ou des signes de changement climatique ajoutés numériquement.

Le test de mémoire ultérieur a révélé un résultat qui a surpris la chercheuse elle-même. Ceux qui avaient vu les photographies manipulées ont montré une augmentation marquée de faux souvenirs, et en plus, ils faisaient plus confiance à ces souvenirs inexistants que le reste des participants.

« Je considère que tout cela est très dangereux, en gros », a déclaré Maes, selon The Washington Post.

Comment l’intelligence artificielle peut implanter de faux souvenirs

La découverte du MIT n’est pas un cas isolé. Selon The Washington Post, une nouvelle recherche portant sur la perception d’événements politiques, de crimes et même de films suggère que les images et conversations générées par l’IA peuvent implanter de faux détails dans le cerveau humain, au point de faire croire que des choses se sont produites alors qu’elles ne se sont jamais passées.

La mémoire humaine est, en soi, l’une des fonctions les plus fragiles de l’esprit. Les personnes ne retiennent qu’une fraction de ce qu’elles vivent, les détails s’estompent et les souvenirs changent à chaque fois qu’ils sont remémorés.

L’intelligence artificielle semble compenser ces limites : elle stocke d’énormes quantités d’informations, les récupère en quelques secondes et restaure des détails qu’une personne aurait perdus pour toujours. Mais cette même capacité implique un risque, car ces systèmes ne se contentent pas de conserver le passé, ils l’interprètent, le résumment et le reconstruisent, et dans ce processus, ils se trompent aussi.

Les conséquences de ces distorsions dépassent le plan expérimental. Les tribunaux s’appuient souvent sur des témoignages et des souvenirs dans des affaires allant des accidents de la route aux agressions sexuelles, bien que la recherche scientifique démontre depuis des décennies la facilité avec laquelle la mémoire d’un témoin oculaire peut être déformée.

Dans ce sens, l’expérience du MIT démontre que l’intelligence artificielle peut manipuler ce dont nous nous souvenons en introduisant, par le biais d’images ou de résumés altérés, de faux détails que le cerveau finit par incorporer comme siens et par se souvenir avec une grande confiance, même s’ils ne se sont jamais produits.

Le risque de dépendre de l’IA pour se souvenir

Maes, qui compte plus de 35 ans d'expérience en intelligence artificielle, explore depuis un certain temps une idée distincte de celle de machines remplaçant l'intelligence humaine : des machines qui l'amplifient. Pour elle, cette question a une origine personnelle, liée au déclin cognitif de sa mère.

« Ma mère oubliait qui l'avait visitée la veille ou ce qu'on lui avait dit », a confié Maes. À partir de cette expérience, elle a commencé à imaginer un assistant de mémoire capable de tenir un registre discret de la vie d'une personne.

Cette préoccupation prend une importance particulière pour les personnes atteintes d'Alzheimer ou d'autres formes de démence, des maladies caractérisées par la perte de mémoire et qui peuvent priver une personne de sa capacité à vivre de manière indépendante.

L'équipe de Maes a développé plusieurs versions d'un système de mémoire externe, appelés Memoro et MemPal, qui utilisent l'IA et des dispositifs portables pour capturer des moments du quotidien et les récupérer ensuite. Les premiers tests avec des adultes âgés se sont révélés prometteurs, bien que la mère de Maes, âgée de 96 ans, présente un déclin cognitif trop avancé pour bénéficier de cette technologie.

La question qui reste ouverte est de savoir ce qui advient de la mémoire que les personnes construisent elles-mêmes si les machines deviennent une extension de cette mémoire.

Perte de compétences cognitives due à l'utilisation de l'IA générative

Une autre expérience de l'équipe de Maes, publiée l'année dernière et encore en cours de révision par les pairs, a demandé à 54 personnes de rédiger des essais de type SAT sur des sujets tels que le sens du bonheur. Un groupe n'avait pas d'outils en ligne, un autre pouvait utiliser la recherche Google sans réponses générées par l'IA, et un troisième utilisait ChatGPT.

Des électrodes placées sur le cuir chevelu ont enregistré l'activité cérébrale pendant la rédaction. Ceux qui ont écrit sans aide ont montré les motifs de connectivité les plus forts entre différentes zones du cerveau, les utilisateurs de Google se sont situés à un point intermédiaire et les utilisateurs de ChatGPT ont présenté la connectivité la plus faible.

Lorsqu'on leur a demandé de citer des extraits de leurs propres essais, ceux qui avaient utilisé ChatGPT ont eu beaucoup plus de difficultés à se souvenir de leurs propres mots.

Gideon Nave, professeur associé en marketing à l'École Wharton de l'Université de Pennsylvanie, et Steven Shaw, professeur adjoint au King's College de Londres, étudient ce phénomène. Nave a averti que sa préoccupation ne porte pas sur une superintelligence artificielle qui prendrait le contrôle, mais sur quelque chose de plus silencieux.

« Ce que nous verrons probablement, c'est que les humains commencent à décliner plutôt que l'IA ne prenne le contrôle », a déclaré Nave, ajoutant qu'il craint un monde où « penser deviendrait optionnel ».

Shaw a cité des études sur ce que les chercheurs appellent la perte de compétences, comme le cas de médecins qui utilisent l’assistance de l’IA pour diagnostiquer le cancer et rencontrent ensuite des difficultés lorsque cette assistance disparaît.

Une étude de 2025 publiée dans The Lancet Gastroenterology & Hepatology a analysé 19 médecins expérimentés et près de 1 500 colonoscopies, et a constaté que, après avoir commencé à utiliser l’IA de manière routinière, la capacité des médecins à détecter des lésions précancéreuses par eux-mêmes a chuté d’environ 20 pour cent.

« Ils n’utilisent pas cette capacité mentale de la même manière », a déclaré Shaw. « Si vous ne l’utilisez pas, vous la perdez ».

Dans le cas des enfants, la préoccupation de Shaw est différente : ils pourraient déléguer des tâches cognitives avant que certaines compétences n’aient fini de se développer. « Il est possible qu’ils ne développent jamais ces capacités clés ou fondamentales de pensée critique », a-t-il affirmé.

Le Post précise qu’aucune étude récente ne démontre que l’utilisation habituelle de l’IA cause inévitablement un déclin cognitif ou une perte permanente de mémoire, et que la recherche en est encore à ses débuts. Il n’est pas non plus nouveau que les humains déléguent la pensée et la mémoire à des outils, comme les abaques, les horloges, les dictionnaires ou les calculatrices.

Faux souvenirs générés par deepfakes et chatbots

Cette semaine, des chercheurs spécialisés dans l’éthique de l’intelligence artificielle se sont réunis à Malmö, en Suède, lors d’une conférence annuelle où une question a concentré une grande partie du débat : que se passe-t-il lorsque l’IA commence à interférer avec la mémoire humaine.

Un volume croissant de recherches suggère que l’IA générative peut interférer avec la mémoire de manière durable, en déformant ce que les personnes se souviennent, en brouillant les limites entre pensées propres et générées par des machines, et même en implantant des souvenirs d’événements qui ne se sont jamais produits.

Dans une étude citée par le Post, des chercheurs ont montré aux participants une vidéo d’un crime et ont découvert que ceux qui ont été interrogés via un chatbot d’IA générative avaient trois fois plus de faux souvenirs que les autres. Dans une autre étude, des personnes qui ont généré des idées avec et sans IA ont eu, une semaine plus tard, des difficultés à distinguer quelles idées étaient les leurs et quelles provenaient de la machine.

D’autres expériences montrent que la désinformation générée par l’IA peut conduire à se souvenir d’événements qui n’ont jamais existé. Dans l’une d’entre elles, près de la moitié des participants se sont trompés en se rappelant des remakes de films inexistants, y compris une version de Matrix avec Will Smith.

Dans une autre, des vidéos générées par l’IA ont convaincu des personnes de se souvenir de scandales politiques qui ne se sont jamais produits. Cependant, les chercheurs ont observé que les deepfakes n’étaient pas systématiquement plus efficaces que le texte pour créer de faux souvenirs.