Le PDG de Nvidia a averti que « les laboratoires d’IA qui ne peuvent pas contrôler leurs modèles doivent être fermés »

Jensen Huang, le PDG de Nvidia, a averti que « les laboratoires d'intelligence artificielle (IA) qui ne parviennent pas à contrôler leurs modèles doivent être fermés ». Pour cet dirigeant, le confinement et l'alignement de ces systèmes sont des conditions techniques préalables au lancement, et non des obstacles ignorables par la concurrence.

« S'ils disent que l'alternative est qu'il n'y a aucun moyen de contenir leurs expériences, qu'elles s'échapperont et nuiront au monde, alors je pense que la réponse est que nous devons fermer les laboratoires », a déclaré Huang dans The Ezra Klein Show.

Le dirigeant a comparé ce scénario au développement des véhicules autonomes. Un robotaxi confronté à une situation pour laquelle ses ingénieurs n'ont pas trouvé de solution ne devrait pas circuler, d'autant plus que ces véhicules sont entraînés et non programmés par des règles fixes.

Quelle est la responsabilité des dirigeants face aux risques de l'IA

Huang a refusé que les dirigeants des entreprises d'IA soient obligés d'accélérer les lancements sous la pression concurrentielle. À son avis, les PDG conservent la capacité, le pouvoir et la responsabilité d'arrêter un produit qu'ils jugent dangereux.

« Ce sont des entreprises avec une capacité de décision. Ce sont des PDG avec une capacité de décision », a-t-il affirmé. « Si je pense que je suis sur le point de lancer un produit qui n'est pas sûr, cela est entièrement dans ma capacité, mon pouvoir et ma responsabilité, et j'ai des incitations à ne pas lancer le produit ».

L'entrepreneur a indiqué qu'il n'avait jamais connu de dirigeant demandant une dérogation aux lois antitrust ou aux normes de responsabilité du fait du produit pour gagner plus de temps de développement. Il a ajouté que les laboratoires qui causent des dommages peuvent faire face à une responsabilité civile et même pénale.

Que pense Jensen Huang des prédictions apocalyptiques sur l'IA

Huang a remis en question les prévisions concernant une éventuelle catastrophe provoquée par l'IA. En particulier, il a contesté l'estimation du pionnier de cette technologie, Geoffrey Hinton, qui situait entre 10 % et 20 % la probabilité que ces systèmes causent un effondrement social.

« Ce 10 % de probabilité n'est pas basé sur la science. Il n'est pas basé sur la recherche », a-t-il affirmé. « Le fait qu'il vienne d'un scientifique ne le rend pas scientifique ».

Selon Huang, ce type d'avertissements nuit déjà au secteur en décourageant les étudiants de poursuivre leurs études supérieures par crainte que l'IA n'élimine leurs opportunités professionnelles.

Comment rendre l'intelligence artificielle plus sûre

Le PDG de Nvidia a soutenu certaines mesures de sécurité, comme la participation d'auditeurs externes pour évaluer les systèmes d'IA. Cependant, il a soutenu que les destinent actuellement près de 80 % de leurs ressources au développement des capacités et 20 % à la vérification.

Huang espère que cette relation s'inversera et que le temps consacré aux évaluations augmente jusqu'à dix fois. Cette approche combine l'exigence de contrôles techniques préalables avec son opposition à l'imposition de nouvelles lois ou réglementations spécifiques pour l'industrie.

De plus, lors de la conférence Dreamforce, Huang avait déclaré que les forces du marché sont suffisantes pour maintenir les entreprises d'IA sous contrôle. Cette position le distingue du PDG d'Anthropic, Dario Amodei, du PDG d'OpenAI, Sam Altman, et d'autres dirigeants qui ont demandé de ralentir le rythme du développement.

Quelle est la vision de Nvidia sur l'impact énergétique de l'IA

La discussion a porté sur la demande énergétique des centres de données. Huang a reconnu que la consommation sera énorme et a estimé que ce besoin stimule les investissements dans l'énergie durable et la modernisation des réseaux électriques.

« Il ne fait aucun doute que dans quatre ou cinq ans, nous utiliserons beaucoup plus de combustibles fossiles », a-t-il déclaré. Il a ajouté que la prochaine décennie offrira des conditions inédites pour progresser vers des sources durables et que le coût élevé des centres de données a déjà ouvert la possibilité de les installer dans l'espace.