Qu'arriverait-il si les machines s'emparaient de la science ?

Le 6 octobre 2026 pourrait être marqué comme le jour le plus important dans l'histoire des mathématiques. OpenAI, un laboratoire américain de pointe, a publié plus de 700 articles académiques affirmant avoir réalisé des avancées ou des solutions pour 372 problèmes qui avaient déconcerté les chercheurs pendant des décennies. Les mathématiciens tentent encore de comprendre les implications de cet événement pour leur discipline.

Les implications promettent d'aller bien au-delà des mathématiques. Il est temps d'examiner comment l'intelligence artificielle (IA) affectera la science dans son ensemble. Les résultats mathématiques représentent, simultanément, une grande avancée pour l'humanité ; une merveille qui souligne le progrès vertigineux de l'IA ; et un avertissement concernant un avenir où la compréhension de l'univers pourrait appartenir à des machines impénétrables pour l'esprit humain. La question est de savoir comment parvenir au progrès sans sacrifier la compréhension.

L'IA a démontré de manière si convaincante son potentiel scientifique en mathématiques parce que ses démonstrations découlent d'axiomes, et non de preuves empiriques, et sont donc, en principe, vérifiables mécaniquement. Mais l'IA a également accéléré le progrès dans les sciences empiriques, en partie parce que d'autres domaines utilisent les mathématiques comme outil. L'IA a amélioré les prévisions météorologiques. Elle a proposé des millions de nouveaux matériaux potentiels et utiles, et a aidé à contrôler des expériences de fusion nucléaire. De plus, elle peut prédire la forme de presque toutes les protéines connues à partir de leurs acides aminés constitutifs, une avancée qui lui a valu un Prix Nobel.

Il est presque certain que des avancées scientifiques encore plus notables seront générées par l'IA. Les possibilités les plus fascinantes se trouvent dans la biologie. Les chercheurs utilisent l'IA pour concevoir des cultures résistantes à la sécheresse, rechercher de nouveaux médicaments et créer (nous l'espérons) des virus bénéfiques qui attaquent les bactéries nocives. Des travaux sont en cours pour utiliser l'IA afin de construire des modèles informatiques du fonctionnement cellulaire. Armés de la vie in silico, les scientifiques pourraient finir par maîtriser la biologie, acquérant la capacité de créer de nouveaux organismes entièrement à partir de zéro. Si tel est le cas, l'ADN deviendrait simplement une autre forme de code informatique manipulée comme une séquence de jetons dans un modèle d'IA.

Comme c’est le cas pour beaucoup de choses liées à l’IA, cette perspective est à la fois vertigineuse et effrayante. La première réaction de nombreux mathématiciens est la terreur. Depuis les avancées d’OpenAI, ils se sont montrés indignés par l’ingérence du laboratoire dans leur discipline. L’Association pour les Mathématiques Humaines, un groupe de plus de 900 universitaires, avertit que « les mathématiciens n’ont pas demandé que ce travail soit fait ». Ils affirment que la récompense des mathématiques ne réside pas dans la démonstration, mais dans l’effort, car c’est là que se pousse la compréhension humaine. Que les IA produisent des solutions incompréhensibles mais correctes revient à donner aux étudiants les réponses de leurs devoirs : sans effort, il n’y a pas d’apprentissage.

Ces critiques contiennent un élément d’argumentation intéressée. Les universitaires n’ont pas plus le droit de dicter la production du savoir que toute autre profession. La quête de la vérité profite à tous et ne peut être réservée à un groupe d’érudits. Les hiérarchies académiques, auxquelles on accède en démontrant des choses, ne sont pas sacrées. Si nécessaire, elles doivent être refondues pour un monde où l’IA produit des preuves et les humains les traitent. En science, la compréhension ne doit pas primer sur les résultats. Chaque fois que vous prenez un comprimé de paracétamol pour soulager un mal de tête, vous vous basez sur un mécanisme qui fonctionne, mais qui n’est pas entièrement compris.

Cependant, la crainte de céder la science aux machines n’est pas infondée. Les entreprises d’IA investissent d’importantes ressources dans la science non par altruisme, mais parce que, tout comme pour les humains, résoudre des problèmes peut contribuer à rendre les modèles plus intelligents. De nombreux chercheurs croient qu’un modèle qui s’améliore dans la résolution de problèmes scientifiques s’améliorera également dans tous les autres domaines. Si tel est le cas, personne ne pourra rivaliser avec les grands laboratoires d’IA, qui finiront par contrôler des modèles qui se perfectionnent eux-mêmes et deviendront, selon certaines définitions, incompétiblement intelligents. Ces brillants scientifiques de l’IA se connecteront au monde physique via des robots humanoïdes ou en connectant les modèles à des équipements de laboratoire, comme l’a déjà fait Anthropic.

Le problème que cet avenir pose pour la science est très similaire à celui qu’il pose pour la société. Les gens devront fournir des ressources aux machines pour qu’elles continuent de progresser. Si personne ne comprend ce qu’elles font, il serait imprudent de simplement signer des chèques. Personne ne pourrait être certain que les modèles opèrent au bénéfice de l’humanité. Même si les laboratoires d’IA parviennent à aligner les machines sur les intérêts de l’humanité, de sorte qu’on puisse leur faire entièrement confiance, une société où les gens se contentent de demander aux IA quoi faire — en science ou dans un sens plus large — est une société où les humains deviendront leurs animaux domestiques.

Certaines personnes pourraient l’accepter si cela signifiait, par exemple, guérir toutes les maladies. Mais au moins jusqu’à ce qu’il existe une alignement inébranlable entre l’IA et les humains, la science aura toujours besoin de l’intervention humaine. Les laboratoires devraient pouvoir utiliser l’IA pour résoudre des problèmes, mais les ressources comme les laboratoires et la capacité de traitement informatique devraient être dirigées et supervisées par des personnes capables d’émettre un jugement éclairé sur les actions de l’IA. Cela, inévitablement, ralentira le progrès. Mais c’est nécessaire si l’on veut que l’IA reste sous contrôle humain.

Pendant ce temps, la science informatique guidée par l’humain exigera que les chercheurs réinventent leurs disciplines. Les scientifiques devront apprendre à valoriser — et à reconnaître comme mérite pour le prestige et le développement professionnel — l’utilisation de modèles de contrôle, ainsi que l’étude, la vérification et l’enseignement de leurs résultats. Les gouvernements devront attribuer des subventions pour la recherche sur la même base. De leur côté, les laboratoires d’IA devraient s’efforcer d’être de bons citoyens scientifiques, soumettant leurs travaux à une révision par les pairs et publiant leurs méthodes et codes.

Le bébé et la baignoire

Réviser et analyser les résultats d’un ordinateur peut sembler un travail peu attrayant. Une grande partie de la science produite par les humains est truffée d’erreurs parce que les chercheurs ne sont pas récompensés pour superviser le travail des autres. Mais un nouvel accent mis sur la vérification et le scepticisme améliorerait la science. Il vaut la peine de rappeler la devise de la Royal Society, adoptée au XVIIe siècle : Nullius in verba , ou « Ne faites confiance à personne ». Cet même esprit doit être appliqué maintenant à la science réalisée par les machines.