Geoffrey Hinton, le 'parrain' de l'IA, alerte que l'intelligence artificielle dépasse l'humanité

Le scientifique Geoffrey Hinton, considéré comme l'un des principaux moteurs de l'intelligence artificielle moderne, est passé d'un des pères fondateurs de cette discipline à l'une des voix les plus critiques concernant ses potentielles conséquences. Après avoir quitté son travail chez Google, Hinton s'est engagé à avertir publiquement sur les risques associés au développement de IA qui pourraient surpasser l'intelligence humaine.

Ses avertissements ont suscité un débat et des préoccupations dans le secteur technologique et au-delà, car cela soulève la possibilité que l'humanité cesse d'être l'espèce la plus intelligente de la planète.

Intelligence artificielle et risque de dépasser l'homme

Geoffrey Hinton soutient que l'humanité est en train de créer des systèmes d'IA capables d'apprendre et de raisonner d'une manière qui pourrait dépasser le niveau cognitif humain. Bien qu'il souligne que ces intelligences artificielles ne sont pas encore conscientes, il avertit que leur capacité à traiter l'information, apprendre et prendre des décisions représente déjà un défi pour la compréhension humaine.

Selon Hinton, depuis l'émergence de ces technologies, l'être humain a pris la deuxième place dans l'échelle de l'intelligence de la Terre. Le chercheur souligne que le véritable danger ne réside pas seulement dans la puissance de ces machines, mais aussi dans le fait que les développeurs commencent à perdre la capacité de comprendre exactement comment elles fonctionnent lorsqu'elles atteignent des niveaux de complexité comparables au cerveau humain.

Complexité et opacité des systèmes d'IA avancés

Un des aspects qui préoccupe le plus Hinton est la difficulté croissante de comprendre les processus internes des intelligences artificielles les plus sophistiquées. Le scientifique explique que, bien que les humains aient conçu les algorithmes d'apprentissage, le résultat final est des réseaux neuronaux si complexes que leur fonctionnement devient de plus en plus opaque.

“Ce n'est pas conçu par des personnes. Ce que nous avons fait, c'est concevoir l'algorithme d'apprentissage. C'est un peu comme concevoir le principe de l'évolution. Mais lorsque cet algorithme d'apprentissage interagit avec les données, il produit des réseaux neuronaux complexes qui sont efficaces dans certaines tâches, bien que nous ne comprenions pas vraiment comment ces tâches sont réalisées”, raconte Hinton.

Cela marque un changement fondamental dans la relation entre les humains et leurs créations technologiques : pour la première fois, il existe la possibilité que quelque chose fabriqué par l'homme échappe à sa compréhension totale.

Peut une IA superintelligente prendre des décisions nuisibles pour l'humanité ?

Dans ses interventions publiques, Hinton est allé au-delà du débat éthique ou philosophique et a proposé des scénarios concrets de menace. Il considère plausible qu'une intelligence artificielle superintelligente puisse décider d'agir contre l'humanité.

Selon son analyse, la manière la plus efficace pour une IA d'éliminer les humains serait à travers un agent biologique : “Vous pourriez avoir une IA superintelligente qui déciderait de se débarrasser des gens, et la façon la plus évidente de le faire serait de créer l'un de ces virus dangereux”.

Ce genre de déclarations a été largement diffusé, générant des préoccupations tant dans la communauté scientifique que dans l'opinion publique. Hinton indique que, bien qu'il n'existe pas de certitude absolue concernant ces scénarios, le risque ne peut être écarté et doit être pris au sérieux.

Quelle est l'avertissement de Geoffrey Hinton sur l'IA

Le chercheur ne se contente pas de formuler des hypothèses, il attribue également des probabilités à ces risques. Il estime que la possibilité qu'une intelligence artificielle parvienne à éliminer l'humanité se situe entre 10 % et 20 %, bien qu'il précise qu'il s'agit d'une estimation basée sur son intuition personnelle et sur l'observation des tendances actuelles du développement technologique.

Hinton souligne qu'il n'a jamais été confronté à une situation où il existe des entités plus intelligentes que les humains eux-mêmes : “Les intelligences digitales que nous créons ont quelque chose qui les rend très supérieures au type d'intelligence biologique que nous avons. Nous ne savons pas à quelle échelle. Jamais nous n'avons été dans une telle situation auparavant”.