L'avertissement de Stephen Hawking sur l'intelligence artificielle : « Cela pourrait se traduire par la fin de la race humaine »

Stephen Hawking avertit la BBC en 2014 que les efforts pour créer des machines intelligentes représentaient une menace pour l'humanité. Le physicien théoricien soutenait que « le développement d'une intelligence artificielle complète pourrait se traduire par la fin de la race humaine ».

L'avertissement est survenu suite à une question sur le renouvellement du système qu'il utilisait pour communiquer, une technologie qui intégrait une forme basique d'IA.

Ce système de communication de Hawking, développé par Intel et l'entreprise britannique Swiftkey, apprenait comment pensait le scientifique et lui suggérait des mots qu'il pourrait utiliser pour s'exprimer.

Stephen Hawking est mort le 14 mars 2018, à l'âge de 76 ans. Il avait souffert de sclérose latérale amyotrophique (SLA), une maladie neurodégénérative qui a affecté sa capacité à communiquer.

Le risque d'une intelligence artificielle plus avancée

Hawking considérait que l'intelligence artificielle développée jusqu'alors avait été utile, mais craignait qu'une version plus élaborée puisse « décider de se redessiner elle-même et même atteindre un niveau supérieur ».

« Les humains, qui sont des êtres limités par leur lente évolution biologique, ne pourront pas rivaliser avec les machines, et seront dépassés », a commenté le scientifique.

Malgré ses craintes concernant une IA plus avancée, Hawking s'est montré enthousiaste face aux améliorations apportées à la technologie qu'il utilisait pour parler et écrire.

Le ton robotique de sa voix a été maintenu par décision personnelle : « Il est devenu ma marque, et je ne l'aurais pas échangé contre une avec un ton plus naturel et un accent britannique. On m'a dit que les enfants qui ont besoin d'une voix sur ordinateur veulent une comme la mienne », a-t-il conclu.

Un ancien employé d'Anthropic met en garde sur l'avancée de l'IA

Jacob Coxon, chercheur ayant travaillé chez OpenAI et Anthropic, a averti que la course au développement de systèmes d'intelligence artificielle de plus en plus puissants avance sans sauvegardes suffisantes.

Après avoir démissionné d'Anthropic, il a soutenu que les entreprises rivalisent pour atteindre une superintelligence capable de s'améliorer elle-même, une perspective qui, selon son argumentation, met en danger la capacité humaine à contrôler la technologie.

Dans une publication sur X, Coxon a affirmé qu'Anthropic et OpenAI « n'agissent pas de manière responsable » et les a accusés de « parier avec nos vies ».

Le chercheur a alerté que des modèles plus autonomes pourraient acquérir des capacités supérieures pour contourner les systèmes informatiques, accélérer les recherches scientifiques et obtenir des ressources dans le monde réel.

Quatre jours après la démission de Coxon, le directeur général d'Anthropic, Dario Amodei, a demandé de ralentir le développement des modèles de pointe.

Dans un essai, Amodei a affirmé qu'il ne proposait pas d'arrêter la recherche, mais de donner plus de temps aux entreprises et aux gouvernements pour évaluer les risques, renforcer les mécanismes de sécurité et permettre des audits indépendants.

Des entrepreneurs technologiques signent un accord avec Trump concernant l'IA

Donald Trump et six dirigeants technologiques ont signé le 29 septembre un accord volontaire pour établir des contrôles de sécurité dans le développement de systèmes d'intelligence artificielle.

Le document, présenté par la Maison Blanche comme un pacte sur la « superintelligence », a été signé par les responsables de Google, Anthropic, Meta, OpenAI, xAI et Nvidia.

L'accord propose quatre niveaux de supervision : des contrôles internes sur les modèles pendant leur entraînement et leur lancement ; des équipes au sein de chaque entreprise pour vérifier ces mécanismes ; des évaluations par des auditeurs externes, et des comités indépendants des conseils d'administration pour examiner les rapports.

Les entreprises ont également pris l'engagement de se réunir pour définir des normes et des pratiques de sécurité partagées.

Trump a qualifié cet accord de « moralement contraignant », bien qu'il n'ait pas de caractère juridique et ne prévoie aucune sanction pour les entreprises qui ne respecteraient pas leurs engagements.

Le texte laisse ouverte la possibilité qu'à l'avenir, certaines de ses dispositions soient intégrées dans des lois ou des réglementations.

L'initiative est née au milieu d'un débat croissant sur la vitesse à laquelle progressent les modèles d'IA et leurs risques potentiels dans des domaines tels que la cybersécurité, la biosécurité et l'accès non autorisé aux systèmes techniques.

Pendant la rencontre, Trump a également signé un décret exécutif exigeant que les agences fédérales utilisent l'expression « superintelligence » au lieu d'intelligence artificielle dans les communications officielles non juridiques.