La fin du monde a votre attention et l'IA mérite une discussion meilleure

Si quelqu’un vous dit qu’un outil peut vous aider à mieux travailler, vous l’écoutez peut-être. S’il vous dit que cet même outil peut vous tuer, il capte toute votre attention.

Récemment, Jacob Coxon a annoncé sa démission d’Anthropic, l’entreprise derrière Claude. Il avait également travaillé chez OpenAI et a remis en question la responsabilité des deux sociétés. Il a affirmé que ceux qui construisent ces systèmes croient qu’ils pourraient nous tuer tous avant la fin de la décennie.

Il y a une différence entre avertir d’un risque et démontrer que quelque chose va se produire. Mais lorsque ce qui est en jeu est notre existence, cette nuance a peu de chances de survivre au titre.

La catastrophe est un moteur de conversion de l’attention.

Elle transforme une personne qui passait son chemin ou qui avait l’attention ailleurs en quelqu’un qui a besoin d’en savoir plus sur le sujet. Elle prend des idées, des peurs et des symboles de l’inconscient collectif et les transforme en récits capables de capter l’attention. Elle convertit l’incertitude en urgence, et peut convertir cette urgence en abonnement, en achat ou en soutien à une décision politique.

Dans ce cas, cela touche quelque chose de très profond. Vous pouvez imaginer changer de travail, perdre de l’argent ou devoir réapprendre. Imaginer votre propre inexistence est autre chose. Vos projets, vos liens et votre existence prennent fin. La peur entre par là.

Une étude publiée dans Nature Human Behaviour a analysé plus de 105 000 titres. Dans les expériences étudiées, l’ajout d’un mot négatif à un titre moyen augmentait le taux de clics de 2,3 %.

Il n’est pas nécessaire de supposer que Coxon invente sa préoccupation. Il peut être entièrement convaincu. Ce que je dis, c’est qu’un avertissement sincère peut également entrer dans un circuit qui récompense sa version la plus alarmante.

Et lorsque toute la conversation tourne autour de notre disparition, nous cessons de regarder les décisions qui affectent déjà notre vie.

Je ne crois pas que l’IA soit destinée à devenir notre assassin. C’est une création humaine. Elle émerge des connaissances que nous accumulons et des décisions sur quoi construire, comment l’entraîner et quoi lui permettre de faire.

Le fait que nous l’ayons créée ne la rend pas inoffensive. Nous avons également créé des technologies capables de causer d’énormes dommages. Un système peut causer du dommage par un dysfonctionnement, par la manière dont il est utilisé ou par la poursuite d’un objectif mal défini. Il n’a même pas besoin d’avoir une intention similaire à la nôtre.

Mais il n’y a pas non plus de raison de supposer qu’une plus grande capacité implique inévitablement une volonté de nous exterminer. Je trouve beaucoup plus utile de discuter de quelle autonomie nous accordons, qui supervise et qui répond lorsque quelque chose tourne mal. Ce sont des décisions concernant une technologie que nous construisons. Nous avons encore beaucoup à décider.

La concentration de cette capacité entre les mains de quelques entreprises m’inquiète.

Si une même entreprise développe le modèle, décide de qui peut l’utiliser et définit les limites de ce qui est autorisé, elle exerce une influence énorme sur le travail des autres.

Pour une entreprise argentine, cela peut signifier qu’une décision prise à des milliers de kilomètres modifie ses coûts ou lui ferme l’accès à un outil central de son opération.

Même l’argument de la sécurité mérite attention lorsqu’il est utilisé pour justifier cette concentration. Si nous acceptons que la technologie est trop dangereuse pour être entre les mains d’autres, nous risquons de laisser toutes les décisions entre les mains de ceux qui la contrôlent déjà.

Je pense que cette exclusivité perdra de sa force à mesure que les capacités deviendront plus accessibles. Il existe des antécédents concrets. Les ordinateurs ont été réservés pendant des années aux gouvernements, aux universités et aux grandes entreprises. La baisse des coûts et l’arrivée d’équipements plus faciles à utiliser les ont amenés dans les foyers et les petites entreprises.

Avec l’IA, nous avons déjà vu une partie de ce processus. Le coût d’utilisation d’un modèle avec des performances comparables à celles de GPT-3.5 a chuté plus de 280 fois entre novembre 2022 et octobre 2024. Une capacité qui était coûteuse est devenue beaucoup plus accessible.

Cela ne garantit pas que les géants disparaissent. L’accès peut s’élargir tandis que l’activité reste concentrée. C’est pourquoi il faut des alternatives, une recherche ouverte, plus de concurrents et de vraies possibilités de changer de fournisseur.

C’est là que je vois le changement le plus profond. Nous élargissons notre capacité à rechercher, à relier des informations et à tester des voies qui restaient auparavant exclues par manque de temps ou de ressources.

Pour quelqu’un qui a une entreprise, l’échelle est différente, mais la possibilité est similaire. Pouvoir analyser des informations qu’on n’arrivait pas à examiner auparavant. Tester une idée qui restait toujours en suspens. Construire un outil qui, jusqu’à récemment, était hors de son budget.

Mon attente est que des capacités humaines apparaissent que nous ne savons pas encore reconnaître, parce que nous n’avons jamais eu les outils pour les développer. Les découvertes actuelles me donnent des raisons de penser dans cette direction. Elles ne garantissent pas un avenir parfait. Elles montrent que nous pouvons déjà faire des choses que nous ne pouvions pas faire auparavant.

Nous pouvons exiger la sécurité, discuter du pouvoir des entreprises et vouloir en même temps que cette technologie progresse. En fait, plus elle peut apporter, plus il est important que nous puissions participer à ses bénéfices et aux décisions sur son utilisation.

La peur de cesser d’exister en tant qu’êtres humains capte notre attention immédiatement. Il m’intéresse que nous accordions aussi de la place à ce que nous pouvons devenir grâce aux progrès que nous réalisons.

L'auteur est architecte de solutions en IA