Des mathématiciens craignent qu'OpenAI et Anthropic ne contrôlent l'accès aux découvertes de leurs intelligences artificielles.

Les mathématiciens britanniques les plus reconnus, dont trois lauréats de la médaille Fields, se sont réunis à la Royal Society de Londres face à une crainte précise : qu'OpenAI et Anthropic contrôlent l'accès aux avancées mathématiques de leurs IA et les enferment derrière des barrières payantes.

La rencontre a eu lieu il y a quelques jours. Elle a été motivée par la publication d'OpenAI, un mois plus tôt, de solutions à 377 des problèmes les plus difficiles de la discipline, générées par ses modèles les plus avancés, que le public ne peut pas utiliser.

Martin Bridson, président du Clay Mathematics Institute, l'organisation qui définit les Problèmes du Millénaire, a parlé d'une crainte à long terme : que le savoir reste « accaparé derrière des murs de paiement ». Dans ce scénario, la seule façon de comprendre la recherche serait de payer pour un chatbot.

Bridson a admis que certains secrets sont légitimes, comme une technique capable de briser le chiffrement qui protège le commerce sur internet, et que la propriété intellectuelle mérite protection. Mais il a jugé « profondément répréhensible » que des entités privées soient propriétaires du savoir fondamental.

Qui décide de l'accès aux IA les plus puissantes

Le mathématicien a comparé la situation au Grand Collisionneur de Hadrons du CERN, en Suisse. Là-bas, l'accès est défini par un conseil de recherche conseillé par des comités scientifiques. « Pourquoi devraient-elles décider qui accède à ces outils et selon quels critères ? », a-t-il demandé concernant les entreprises.

Jusqu'à présent, OpenAI et Anthropic se sont engagées à verser 5 millions de dollars chacune à un fonds de la Fondation Simons, un important sponsor de la recherche mathématique, pour donner accès à leurs modèles à certains chercheurs.

La mathématicienne Ana Caraiani, professeure à l'Imperial College de Londres et membre de l'Association for Women in Mathematics, a souligné la limite géographique : aucune institution de Roumanie, son pays natal, ne peut postuler pour utiliser ces modèles. « La plupart des pays se trouvent dans cette position », a-t-elle affirmé.

Martin Hairer, lauréat de la médaille Fields, a écarté l'idée que les modèles open source servent d'alternative car ils ne rivalisent pas avec les plus avancés. « C'est un énorme problème pour la communauté », a-t-il dit, car l'un des principaux outils de la recherche resterait sous le contrôle de deux entreprises américaines.

Rédaction des articles et vérification des résultats

Terence Tao, considéré comme probablement le mathématicien le plus influent au monde, a raconté à The Observer le mois dernier que Anthropic paie des mathématiciens pour formaliser et rédiger des solutions à des problèmes résolus par ses modèles. « Cela cause un autre problème, car ils choisissent qui écrit l'article », a-t-il déclaré.

Jon Keating, vice-président de la Royal Society, a affirmé que l'IA peut apporter une « ère dorée des mathématiques ». Il a précisé une condition : si la communauté doit vérifier ces résultats et en tirer des enseignements, ils doivent être exposés de manière complète, sans être cachés.

Les doutes concernant la publication d'OpenAI ne sont pas nouveaux. Lorsque l'entreprise a diffusé plus de 370 résultats le 6 octobre, The Guardian a rapporté que l'Institut d'études avancées de Princeton a déclaré qu'il ne soutenait pas la pratique de tester les problèmes les plus difficiles avec des modèles propriétaires que le reste du domaine ne peut pas utiliser.

La réunion de la Royal Society n'a pas produit, selon The Observer, de déclaration commune ni de date pour de nouvelles conversations avec les entreprises.

OpenAI affirme qu'une IA non publiée a réfuté une conjecture mathématique

OpenAI affirme que l'un de ses modèles d'intelligence artificielle, encore non publié, a réussi à réfuter l'hypothèse du temps exponentiel, une conjecture formulée à la fin des années 1990 qui sert de base à des centaines d'articles de théorie informatique, avec des applications allant de la théorie des graphes à la biologie computationnelle.

L'entreprise attribue au même système deux autres découvertes mathématiques. L'une est la démonstration d'une conjecture sur les ondes qui restait sans résolution depuis 1991. L'autre est la preuve que la théorie de Yang-Mills, considérée comme l'un des piliers de la physique des particules, existe au sens mathématique.

OpenAI a présenté les trois résultats comme des « données de recherche brutes » et a demandé à des spécialistes externes de former des groupes indépendants de vérification avant de confirmer les découvertes.

S'ils sont validés, chacun des trois résultats suffirait à lui seul pour soutenir une carrière académique complète et permettre à son auteur de prétendre à des distinctions internationales prestigieuses.

L'affaire de l'hypothèse du temps exponentiel a une pertinence supplémentaire : sa résolution approche l'un des Problèmes du Millénaire, les sept défis mathématiques dotés d'un million de dollars chacun par l'Institut Clay, dont un seul a été résolu à ce jour.