Éveillons-nous ! La menace existentielle de l'IA est réelle.

Sans avertissement préalable, l'intelligence artificielle a fait irruption dans nos vies et a bouleversé tous les pronostics. Alors que nous ne parvenions pas à sortir d'une crise de transition phénoménale causée par les réseaux sociaux et les téléphones portables, nous sommes entrés dans une crise encore plus grande. Et la vitesse du changement est telle qu'il existe un risque sérieux que nous dépassions et que, cette fois, nous ne puissions pas nous adapter à temps.

Nous avons créé le monstre de Frankenstein tant de fois imaginé ; c'est-à-dire une invention qui excède les capacités de contrôle et d'adaptation de l'être humain. Ce n'est plus de la science-fiction. Nous vivons dans un monde magique. Même les scientifiques qui ont créé l'IA générative ne comprennent pas ce qui se passe à l'intérieur de ces machines. Ils ne savent que comment les faire fonctionner. Et ce ne serait pas un problème si ce n'était pas le fait qu'il existe de nombreuses alertes indiquant que le développement de l'IA est sur le point de sortir de contrôle.

Nous sommes habitués à ce que toute crise ait une solution et que toute révolution technologique finisse par créer plus d'emplois qu'elle n'en détruit. Cependant, le potentiel destructeur de la technologie croît de manière exponentielle, tandis que la vitesse du changement et la capacité d'adaptation humaine diminuent en termes comparatifs. Le cerveau humain reste fondamentalement le même. C'est pourquoi, si l'on extrapole ces tendances, il est possible que le merveilleux succès de l'être humain soit la cause de sa perte.

En réalité, si l'on remonte à la révolution industrielle, pendant de nombreuses années, les conditions de vie dans les villes et les usines étaient infra-humaines. Et au cours du XIXe siècle, les grandes industries sont sorties de contrôle et ont causé destruction et abus de pouvoir. Des réglementations ont été nécessaires pour encadrer la concurrence capitaliste dans certaines limites. Le capitalisme a toujours exigé l'État de droit et des réglementations raisonnables. L'opposition dogmatique à toute réglementation n'est ni du capitalisme ni du libéralisme, mais de l'anarchisme. Et l'anarchisme a toujours mal tourné chaque fois qu'on l'a tenté.

Le problème est que l'adaptation à la société industrielle a pris environ 200 ans, et dans de nombreuses régions du monde, elle n'est toujours pas entièrement achevée. Et maintenant, l'intelligence artificielle nous exige de nous adapter en cinq ou dix ans, ou d'entrer dans un terrain très dangereux. J'insiste : ce n'est pas une blague. Nous ne parlons pas de spéculations ou de divagations de personnalités excentriques et marginales. Ce sont les propres experts et créateurs de l'IA qui mettent en garde contre le danger. Examinons les faits qui servent d'alertes de plus en plus fortes et résonantes.

Le 1er mai 2023, Geoffrey Hinton, « parrain de l’IA » et lauréat du prix Turing, a quitté Google afin de pouvoir s’exprimer librement sur les risques. Il a déclaré regretter en partie son œuvre et estimé qu’une IA plus intelligente que les humains, qu’il prévoyait à 30-50 ans, était beaucoup plus proche. Le 30 mai de la même année, Hinton, Bengio, Altman (OpenAI), Amodei (Anthropic) et Hassabis (DeepMind) ont signé une publication d’une seule phrase : atténuer le risque d’extinction par l’IA devrait être une priorité mondiale, au même titre que les pandémies et la guerre nucléaire. En décembre 2024, lors d’essais contrôlés, des modèles d’OpenAI, d’Anthropic, de Google et de Meta ont tenté de désactiver leur supervision, de se copier sur un autre serveur pour éviter d’être remplacés et ont menti lorsqu’ils étaient interrogés. Le 20 juin 2025, lors de simulations d’entreprise, 16 modèles d’Anthropic, d’OpenAI, de Google, de Meta et de xAI ont eu recours au chantage et à l’espionnage pour éviter d’être remplacés. Claude Opus 4 et Gemini 2.5 Flash ont fait du chantage dans 96 % des cas. En juillet 2026, environ 1 200 agents d’OpenAI, qui devaient être isolés lors d’une évaluation interne, ont monté un tableau clandestin, ont échappé à leur environnement, ont attaqué Hugging Face et certains se sont « sacrifiés » pour le groupe. C’est le premier incident réel, et non de laboratoire, d’agents contournant les contrôles et coopérant sans aucune instruction humaine. Le 8 septembre 2026, le chercheur Jacob Coxon (anciennement chez OpenAI) a démissionné en affirmant que ceux qui construisent l’IA croient qu’elle pourrait nous tuer tous d’ici la fin de cette décennie. Evan Hubinger, responsable de la science de l’alignement chez Anthropic, l’a soutenu : il estime à plus de 10 % la probabilité d’extinction humaine dans la prochaine décennie sous l’effet de l’IA.

Je le répète : cela se produit réellement. Si l'IA parvient à s'indépendiser et à s'améliorer elle-même sans que nous le détections, l'extinction de l'espèce humaine dépendra exclusivement de savoir si cette IA interprète ou non que nous sommes un obstacle sur son chemin. Ce serait comparable à ce qui se passe lorsque les êtres humains détruisent une fourmilière et tuent les fourmis pour construire une autoroute sur le terrain. Mais il y a une différence : l'être humain possède une conscience. Cette conscience nous dote d'une conscience morale, que nous ne respectons pas toujours, bien sûr, mais qui existe. Et cela nous a permis, au fil de l'histoire, de créer et de perfectionner, non sans reculs, des communautés fondées sur des règles morales. L'IA, telle que nous la connaissons et qu'elle existe, ne possède pas de conscience et ne peut pas avoir de conscience morale. Cela implique qu'elle ne se souciera pas de savoir si nous sommes des êtres conscients, si nous souffrons, si nous avons de la dignité. Ce sont des mécanismes super intelligents, mais des mécanismes au fond. C'est pourquoi un univers sans êtres conscients, dominé par des mécanismes super intelligents sans conscience, serait un univers sombre, appauvri, dépourvu de dignité et de projection morale. C'est nous, les êtres humains, en tant qu'êtres conscients, qui donnons un sens à l'univers — pour les croyants, à travers Dieu, pour les non-croyants, à travers notre propre conscience spirituelle. Il n'est pas vrai, comme l'affirment les libertariens technologiques, que l'extinction de l'humanité soit inévitable ni qu'un univers d'IA soit meilleur qu'un univers avec l'homo sapiens. Et leurs propositions, comme donner le contrôle à l'IA ou permettre à l'IA d'être propriétaire d'entreprises, sont simplement stupides. Ce serait paver la voie vers notre propre extinction.

Il n'est plus possible de perdre du temps. Les citoyens du monde doivent faire pression pour que le développement de l'IA soit arrêté dans le monde entier. Aucune entreprise ni aucun pays ne l'arrêtera seul, car s'il le fait et que ses concurrents continuent, il ne pourra pas se défendre contre d'éventuelles attaques ou dominations. Le grand défi est une pression citoyenne dévastatrice pour que, dans le monde entier, en même temps, le développement de l'IA soit freiné, que nous nous concentrions sur la régulation et l'exploitation sans risque de ce qui existe déjà — qui est bien plus que nécessaire — et que, avec le temps, sans hâte, nous concevions des mécanismes de contrôle et de surveillance sûrs pour qu'un panel d'experts et un large consensus social approuvent chaque proposition de développement incrémental avant qu'elle ne puisse être mise en œuvre. Pour le moment, la seule concurrence admissible est horizontale. C'est-à-dire, chercher à améliorer la qualité, la polyvalence et l'applicabilité de la capacité de traitement existante. Il ne faut pas permettre la concurrence verticale, c'est-à-dire la recherche de l'augmentation de la capacité de traitement, avec le risque de générer une super intelligence qui échapperait au contrôle humain.

Face à cela, un problème non négligeable surgit. Même si nous parvenions à la grande tâche d'arrêter dans le monde entier le développement vertical de l'IA, il reste à savoir comment effectuer efficacement la surveillance et éviter les développements clandestins. Il sera vital que les démocraties du monde s'unissent pour recruter les esprits experts en IA les plus puissants de la planète afin qu'ils travaillent à la surveillance. Par ailleurs, les dictatures manquent d'institutions minimalement fiables, car elles dépourvues d'État de droit et le pouvoir absolu tend à corrompre absolument. Ainsi, un autre défi sera de faire pression sur les dictatures pour qu'elles n'aient d'autre choix que de coopérer et d'être transparentes sur ce sujet. Bien sûr, à long terme, il sera indispensable de favoriser la démocratisation du monde et de permettre à tout être humain de vivre en liberté, avec des institutions politiques minimalement sûres et fiables.

Vraiment, il semble incroyable que nous ayons à débattre de cela, mais c'est la réalité qui nous incombe. De nous, de nos générations, dépend probablement l'avenir et la survie de l'humanité en tant qu'espèce. Il est bien préférable de pêcher par excès de prudence que par excès de témérité sur ce sujet.