Le génie a-t-il échappé à la bouteille ?

Septembre promet d'être un mois de surprises. Au jeu d'énigmes qu'est devenu le choix du prochain secrétaire général de l'ONU se sont ajoutés les projets de l'Irlande du Nord, de l'Écosse et du Pays de Galles de s'organiser pour s'indépendantiser du Royaume-Uni. Et alors que nous ne nous remettions pas encore de ces nouvelles, Dario Amodei, président d'Anthropic, l'une des entreprises leaders dans le développement de l'intelligence artificielle, a publié un article dans lequel il demande à l'industrie de ralentir la vitesse à laquelle cette technologie progresse.

Selon Amodei, comme beaucoup de technologies précédentes, l'intelligence artificielle comporte des risques. Mais, précisément parce qu'il s'agit d'une technologie aussi puissante, ces risques sont particulièrement sérieux. Parmi eux, il mentionne la possibilité de perdre le contrôle des systèmes d'IA, leur utilisation pour les cyberattaques et le bioterrorisme, ainsi que leur capacité à provoquer une grave perturbation économique. Il avertit en outre qu'une course effrénée pour offrir toujours plus de services d'intelligence artificielle au prix le plus bas pourrait aggraver ces dangers.

Curieusement, déjà en 2018, la revue The Atlantic avait publié un essai de Henry Kissinger intitulé «La fin des Lumières», dans lequel il mettait en garde contre la capacité potentiellement destructrice de l'intelligence artificielle et allait jusqu'à la comparer, par ses implications, aux armes nucléaires.

Pour Kissinger, l'humanité n'était pas philosophiquement ni intellectuellement préparée à gérer l'intelligence artificielle. Sa préoccupation allait au-delà de la technologie elle-même : les complexes systèmes humains de prise de décision ne peuvent être réduits simplement à des données. L'IA, avertissait-elle, se développe impulsée par une logique propre et peut produire des conclusions que les êtres humains ne sont pas capables d'expliquer ni de reconstruire pleinement, défiant ainsi les formes traditionnelles de cognition et jusqu'à nos concepts historiques de la réalité.

Les avertissements de Henry Kissinger, soutenus également par Eric Schmidt, ancien président de Google, n'ont pas fait l'objet d'un débat public proportionné à l'ampleur du défi, ni ne semblent avoir reçu une considération suffisamment sérieuse de la part des dirigeants du monde.

La raison est peut-être simple : presque tous sont pris dans un tourbillon du présent qui leur empêche de développer une vision prospective et globale.

Les gouvernements font face quotidiennement à des économies qui ont perdu leur dynamisme et ne génèrent pas suffisamment d'emplois capables de garantir une vie stable aux jeunes qui entrent sur le marché du travail. Le crime organisé transnational a pénétré de nombreux systèmes de protection citoyenne, tandis que les cybercrimes prolifèrent à une vitesse que les autorités peinent difficilement à contenir. L'enseignement supérieur, qui pendant des décennies a été le pont pour échapper à la pauvreté et intégrer la classe moyenne, crée aux États-Unis une génération de jeunes professionnels hypothéqués par des dettes étudiantes que les salaires du début du XXIe siècle permettent difficilement d'acquitter.

Toutes ces pressions obligent les dirigeants à se concentrer sur le quotidien. Pendant ce temps, dans les laboratoires technologiques, la création continue à plein régime.

C'est pourquoi on a relativement peu réfléchi à construire les canaux nécessaires pour orienter l'énergie créative extraordinaire de l'intelligence artificielle vers l'enrichissement des activités qui composent le réseau de services de la société moderne ; à établir de nouveaux paradigmes éducatifs capables de préparer les prochaines générations à vivre et travailler avec elle ; ou, comme le suggérait Kissinger sous l'angle géopolitique, à développer des mécanismes de dissuasion capables d'empêcher que cette capacité créatrice extraordinaire ne devienne aussi une capacité de destruction.

Pour compliquer encore davantage le paysage, l'intelligence artificielle est devenue la pointe de lance de la concurrence économique et stratégique entre les deux grandes puissances qui se disputent aujourd'hui le leadership mondial : la Chine et les États-Unis.

La Chine a avancé dans l'intégration de l'intelligence artificielle à son appareil productif, à ses systèmes de santé et, de manière encore embryonnaire, à ses réseaux éducatifs. Aux États-Unis, en revanche, le débat reste ouvert sur ce qu'il faut faire avec elle, comment la réguler et jusqu'où permettre qu'elle avance sans restrictions.

Et si à Washington prévaut la conviction que toute réglementation significative pourrait se traduire par une perte de terrain face à la Chine, il est difficile d'imaginer qu'au milieu de cette course puisse émerger une réflexion publique suffisamment profonde sur la manière d'orienter l'une des créations les plus extraordinaires de l'humanité vers l'augmentation du bien-être, le renforcement des sociétés et la promotion de la compréhension internationale.

C'est précisément là que réside le danger.

Nous ne savons pas encore si le génie s'est échappé définitivement de la bouteille. Mais nous savons que nous avons commencé à courir après lui sans avoir décidé au préalable vers où nous voulons qu'il nous mène.

Si un accident se produit jamais à cause d'une intelligence artificielle hors de contrôle, nous découvrirons peut-être trop tard que sa capacité destructrice peut surpasser celle de Tchernobyl. La différence est que Tchernobyl a été un accident dans une installation spécifique. L'intelligence artificielle, en revanche, ne connaît pas de frontières.