Cette vidéo ne peut pas être lue en raison d'une erreur technique.(Code d'erreur : 102006)
Peu de scientifiques ont l'autorité de Geoffrey Hinton pour parler de intelligence artificielle. Le Britannique-Canadien, lauréat du Prix Nobel, a apporté des contributions décisives au développement des réseaux neuronaux et de l'apprentissage profond, des avancées qui ont aidé à jeter les bases de la technologie actuelle et lui ont valu le surnom de « parrain de l'IA ». Cette semaine, dans une interview avec l'émission Newsnight de la BBC, il a admis qu'une probabilité de 10 % que l'intelligence artificielle puisse éteindre l'humanité ne lui semble pas déraisonnable, bien qu'il ait précisé que personne ne sait avec certitude comment estimer ce risque.
L'avertissement est survenu quelques jours après qu'un ancien chercheur de Anthropic et OpenAI a démissionné publiquement de son poste et accusé les grandes entreprises du secteur d'avancer vers une superintelligence sans contrôles suffisants.
Geoffrey Hinton a mis en garde contre le risque d'extinction par l'intelligence artificielle
Lorsque la présentatrice de l'émission lui a demandé s'il estime qu'il existe une probabilité supérieure à 10 % que l'intelligence artificielle puisse tuer tous les humains, potentiellement dans un délai d'une décennie, Hinton a répondu avec prudence sans écarter ce chiffre. « C'est le genre de chose qui est très difficile à estimer parce que nous n'avons jamais eu quelque chose comme ça auparavant », a-t-il déclaré à la BBC. « Nous n'avons jamais créé d'êtres qui pourraient bientôt être plus intelligents que nous. Nous ne savons pas ce qui va se passer ».
« Une probabilité de 10 % ne me semble pas une estimation irraisonnable, mais personne ne sait vraiment comment donner une estimation sensée », a soutenu le scientifique dans l'interview. Il a été explicite en soulignant qu'il serait également imprudent d'affirmer que le risque est de 1 %, car il s'agit d'un phénomène sans précédent historique. Il n'a pas présenté le pourcentage comme une prédiction, mais comme un seuil qui ne lui semble pas illogique à considérer.
Hinton a esquissé un scénario de bifurcation. « Nous avons deux futurs possibles : l'un où nous découvrons comment gérer ces dangers avant qu'ils ne deviennent incontrôlables et l'autre où nous n'y parvenons pas », a-t-il dit. « Un futur est très bon et l'autre est très mauvais », a-t-il ajouté.
Pourquoi le « parrain de l'IA » estime que le débat est urgent
Hinton a remporté le Prix Nobel en reconnaissance de son travail fondateur sur l'intelligence artificielle. Ses positions ne sont pas celles d'un critique extérieur au secteur, mais celles de l'un de ses architectes les plus influents, raison pour laquelle ses avertissements génèrent une attention particulière dans la communauté scientifique et dans les médias du monde entier.
Ce qui a également retenu l'attention lors de l'interview est l'accélération de ses propres estimations. Le scientifique a reconnu que son horizon temporel s'est considérablement compressé ces dernières années. « Avant, je pensais qu'il s'agirait de 30 à 50 ans, puis j'ai réduit cette fourchette à 10 à 20 ans », a-t-il déclaré à l'émission Newsnight. « Aujourd'hui, je pense que cela pourrait prendre 10 ans, voire moins », a-t-il ajouté.
Il a indiqué que certaines personnes au sein même du secteur envisagent des délais encore plus courts. « C'est assez urgent maintenant », a-t-il conclu.
Comment l'intelligence artificielle pourrait causer de graves dommages, selon Hinton
Lorsque l'animatrice lui a demandé de préciser de quelle manière une intelligence artificielle avancée pourrait causer des dommages à grande échelle, Hinton a souligné que les possibilités sont si nombreuses qu'il a préféré ne pas spéculer sur toutes. Il a mentionné certains scénarios concrets : des cyberattaques dévastatrices, la conception de virus biologiques dangereux et la manipulation des personnes par le langage.
« La première chose à comprendre est qu'elle n'a même pas besoin d'être capable d'agir dans le monde réel pour causer la dévastation », a déclaré Hinton à la BBC. « Elle pourrait provoquer un chaos total simplement en parlant aux gens ». Il a également souligné qu'un système suffisamment avancé pourrait accéder à des ressources et à des systèmes du monde physique, ce qui élargirait la portée des dommages potentiels.
Tous ces scénarios correspondent à des hypothèses sur des systèmes futurs, plus avancés que les outils disponibles aujourd'hui. Hinton ne les a pas décrits comme inévitables ni comme imminents, mais comme des possibilités qui justifient de prendre des précautions maintenant, avant que le développement ne devance la capacité de le superviser.
Régulation de l'IA : l'appel à la coopération internationale de Hinton
Hinton a été direct en exposant ce qu'il demanderait aux dirigeants mondiaux : la régulation. Il a reconnu qu'il n'existe pas de solution unique pour tous les risques, étant donné que chaque type de menace nécessite une réponse différente. Il a insisté sur le fait que les gouvernements doivent intervenir avant que le développement de l'intelligence artificielle ne dépasse la capacité de le contrôler.
Le scientifique a mentionné un exemple concret de ce qu'il considère comme un signal d'alerte : Anthropic n'a pas soumis son dernier modèle à l'Institut de sécurité de l'IA du Royaume-Uni pour qu'il soit testé avant son lancement. « La Grande-Bretagne possède en effet un très bon institut de sécurité de l'IA. C'est l'un des meilleurs au monde », a-t-il déclaré à la BBC. Mais il a reconnu que cet organisme perd son sens si les entreprises ne lui soumettent pas leurs modèles pour évaluation.
Pour illustrer la viabilité de la coopération internationale, Hinton a fait référence à un parallèle historique. Il a comparé la situation actuelle à la collaboration entre les États-Unis et l'Union soviétique pendant la Guerre froide pour éviter une guerre nucléaire : deux puissances rivales qui, malgré leurs différences, partageaient l'intérêt de ne pas se détruire mutuellement. Selon le scientifique, quelque chose de similaire peut se produire avec l'intelligence artificielle, étant donné qu'aucun pays n'a intérêt à ce que ces systèmes remplacent ou soumettent les personnes. « La question est de savoir s'ils peuvent le faire avec suffisamment de rapidité », a-t-il averti.
Le sénateur indépendant Bernie Sanders a déclaré sur ses réseaux sociaux, selon NBC Chicago, qu'il présentera bientôt une législation pour suspendre le développement de l'intelligence artificielle et interdire la superintelligence. Le gouverneur de l'Illinois, JB Pritzker, a également appelé à une action immédiate de l'industrie et de Washington.
Les avantages de l'intelligence artificielle que Hinton a également soulignés
Malgré la gravité de ses avertissements, Hinton a été catégorique en affirmant qu'il ne plaide pas pour arrêter le développement de l'intelligence artificielle. « C'est une technologie merveilleuse qui pourrait améliorer considérablement la vie de nombreuses personnes », a-t-il déclaré lors de l'interview avec Newsnight. Il a mentionné les chatbots comme des outils utiles dans la vie quotidienne — « avec un chatbot, je suis beaucoup plus intelligent que moi seul », a-t-il affirmé — et a souligné le potentiel de la technologie dans les soins de santé, l'éducation et la conception de nouveaux médicaments.
En mathématiques, a-t-il noté, les principaux spécialistes reconnaissent déjà qu'il n'y a pas d'avenir pour ceux qui ne travaillent pas avec ces outils, étant donné que les chatbots peuvent démontrer des résultats que les mathématiciens ne parvenaient pas à obtenir seuls. « Il y a quelques années, cela aurait semblé ridicule. Maintenant, c'est déjà vrai », a déclaré Hinton.
Cette tension a traversé toute l'interview : une technologie ayant une capacité réelle d'améliorer la vie de millions de personnes, mais qui avance à un rythme qui, selon le scientifique, dépasse la vitesse à laquelle les gouvernements et les institutions peuvent établir des contrôles efficaces. La question laissée en suspens n'était pas de savoir si l'intelligence artificielle est utile, mais si l'humanité aura le temps suffisant pour garantir qu'elle soit également sûre.
L'avertissement de Jacob Coxon qui a ravivé le débat sur Anthropic et OpenAI
Les déclarations de Hinton sont intervenues dans un contexte de tensions internes croissantes dans le secteur. Jacob Coxon, chercheur qui a travaillé chez OpenAI puis chez Anthropic, a annoncé cette semaine sa démission publique et a accusé les deux sociétés de « parier sur nos vies » en avançant vers ce qu'il a qualifié de superintelligence capable de s'améliorer elle-même.
Le concept auquel Coxon a fait allusion, connu en anglais sous le nom de recursive self-improvement (RSI), désigne la possibilité théorique pour un système d'intelligence artificielle de concevoir et d'entraîner des versions plus performantes de lui-même, accélérant ainsi le rythme des progrès de manière autonome. Coxon a affirmé que Anthropic et OpenAI s'orientent déjà dans cette direction, selon ce qu'il a publié sur ses réseaux sociaux.
L'ancien chercheur a pris soin de distinguer le présent du futur : il a déclaré à CBS News que les systèmes d'intelligence artificielle actuels sont sûrs pour un usage quotidien, mais a averti que les risques augmenteraient à mesure que la capacité des modèles s'accroîtrait. Sa principale critique visait la course entre les entreprises, qui, selon son analyse, pourrait reléguer les contrôles de sécurité au second plan. Il a plaidé pour la mise en place d'audits transparents et indépendants réalisés par des tiers avant de progresser vers des capacités plus risquées.
Anthropic a répondu par un communiqué reconnaissant à la fois les avantages et les risques de l'IA. « Nous avons toujours été transparents sur le fait que l'IA apportera d'immenses avantages ainsi que des risques sans précédent », a déclaré un porte-parole de l'entreprise à CBS News. La société a affirmé appliquer des mesures de protection, des tests dans des domaines tels que la cybersécurité et la biologie, ainsi que des contre-mesures contre les usages malveillants.
Elle a également indiqué publier ses résultats dans le but de « renforcer les défenses collectives du secteur ».
Risques actuels de l'IA : cyberattaques, fraudes et usage malveillant
Les risques de l'IA ne se limitent pas à des scénarios hypothétiques concernant des systèmes futurs. Anthropic a révélé cette semaine avoir bloqué des tentatives d'utilisateurs ayant employé ses modèles pour obtenir des informations utiles au développement d'armes biologiques, ainsi que des activités liées à la surveillance, aux fraudes et aux campagnes de propagande, selon NBC Chicago.
Rebecca Willett, professeure à l'Université de Chicago, a nuancé l'ampleur de cette menace : « Il est le plus probable qu'un humain utilise un outil d'IA pour réaliser cette attaque, plutôt qu'une IA devienne autonome et l'effectue de son propre chef », a-t-elle déclaré au même média.
La chercheuse n'a pas écarté la perte de contrôle sur des systèmes aux comportements imprévisibles, mais a souligné que le facteur humain reste le vecteur de risque le plus immédiat.
