Le « Parrain de l’IA » a prévenu que l’Intelligence Artificielle pourrait échapper au contrôle humain

Le célèbre informaticien Geoffrey Hinton , surnommé le « Parrain de l’IA », a averti dans une récente interview sur CBS « 60 Minutes » que l’intelligence artificielle pourrait échapper au contrôle humain en réécrivant son propre code pour s’améliorer. Selon Hinton, les progrès accélérés de la technologie de l’IA pourraient leur permettre de surpasser les humains d’ici cinq ans seulement.

Hinton, lauréat du prix Turing 2018 pour son travail révolutionnaire dans le domaine de l'IA et de l'apprentissage profond , a démissionné de son poste de vice-président de Google en mai pour s'exprimer librement sur les risques posés par l'IA. Bien que Hinton reconnaisse les avantages significatifs de l'IA dans des secteurs tels que la santé , il a également noté la montée de la désinformation, des fausses images et vidéos en ligne grâce à l'IA .

Le scientifique a insisté sur la nécessité de mener davantage de recherches pour comprendre l'IA , la mise en œuvre des réglementations gouvernementales et l'interdiction mondiale des robots militaires alimentés par l'IA .

De plus, Hinton et d’autres experts en IA admettent qu’ils ne comprennent toujours pas pleinement comment cette technologie fonctionne et évolue. Ce problème a été évoqué par le PDG de Google, Sundar Pichai , comme la « boîte noire » de l'IA. Selon Hinton, les scientifiques développent des algorithmes pour les systèmes d’IA afin d’extraire des informations à partir d’ensembles de données. Ces algorithmes d'apprentissage interagissent avec les données et produisent des réseaux neuronaux complexes , mais la manière exacte dont ces systèmes accomplissent leurs tâches reste une énigme.

Malgré ces avertissements, d'autres spécialistes de l'IA, comme Yann LeCun , également lauréat du prix Turing et considéré comme un autre « parrain de l'IA », ont minimisé les inquiétudes concernant la perte de contrôle humain. LeCun a rejeté les avertissements selon lesquels l’IA pourrait remplacer l’humanité, les qualifiant d’exagérés, arguant que les humains pourraient toujours contrôler toute technologie devenue trop dangereuse.

Lors d'une session à Capitol Hill le mois dernier, des législateurs et des responsables technologiques, dont Pichai, Elon Musk , Sam Altman d' OpenAI et Mark Zuckerberg de Meta , ont discuté d'idées similaires en parlant de la nécessité d'équilibrer les réglementations avec les politiques gouvernementales qui favorisent l'innovation. Hinton a souligné l'urgence de mettre en œuvre des garanties pour l'IA, qu'elles soient émanant d'entreprises technologiques ou imposées par le gouvernement fédéral américain .

Réfléchissant sur l'avenir de l'IA dans l'émission "60 Minutes" de CBS, Hinton a exhorté les dirigeants technologiques et gouvernementaux à prendre des décisions critiques quant à l'opportunité de développer davantage ces technologies et à la manière de se protéger si tel est le cas. Hinton a conclu que « nous sommes probablement à une sorte de point de bascule » et a souligné « l’énorme incertitude » quant à ce qui va se passer ensuite.

Faits saillants de l'interview de « 60 Minutes »

L’entretien a mis en évidence à la fois le potentiel transformateur de l’IA et les préoccupations éthiques et de sécurité soulevées par son développement rapide.

• Intelligence surhumaine : Geoffrey Hinton, pionnier dans le domaine de l'intelligence artificielle (IA), suggère que nous entrons dans une ère où les machines pourraient être plus intelligentes que les humains.
• Conscience et conscience de soi : Hinton estime que même si les IA manquent actuellement de conscience de soi , elles sont susceptibles de la développer à l'avenir.
• Origine Accidentelle : Révèle que ses travaux en IA sont nés d'un échec dans les années 1970 alors qu'il tentait de simuler un réseau neuronal pour étudier le cerveau humain.
• Prix Turing : En 2019, Hinton et ses collaborateurs Yann LeCun et Yoshua Bengio ont reçu le prix Turing, considéré comme le prix Nobel d'informatique, pour leurs travaux sur les réseaux de neurones.
• Apprentissage autonome : Le célèbre scientifique explique que les IA ne sont pas programmées pour des tâches spécifiques mais apprennent plutôt grâce à des algorithmes d'apprentissage, soulevant des inquiétudes quant au contrôle humain.
• Risques et avantages : Bien que l'IA ait un grand potentiel dans des domaines tels que la santé, Hinton met en garde contre des risques immédiats tels que le chômage, la désinformation et l'automatisation sur le champ de bataille.
• Incertitude future – Le « parrain de l’IA » souligne la nécessité de réglementations gouvernementales et de traités internationaux pour atténuer les risques associés au développement de l’IA.