Un employé de Google quitte son poste par crainte d'une IA qui « progresait déjà trop rapidement »

Un autre travailleur du secteur technologique a démissionné par crainte que «l’IA progresait déjà trop vite». Robert O’Callahan a quitté son poste sur les puces IA chez Google DeepMind.

« J’ai démissionné de Google aujourd’hui. J’aimais mon travail et les gens, mais mon équipe de Google DeepMind travaillait sur une nouvelle génération de puces pour rendre l’IA beaucoup plus rapide et moins chère, et je pense que l’IA progresait déjà trop vite, donc j’ai dû démissionner », a déclaré l’ancien employé de Google DeepMind.

« Des millions de personnes contribuent à l’accélération de l’IA, et si je réduis mon rythme de travail, l’impact sera minime… mais nul ; certaines de mes compétences sont rares. J’ai envisagé la possibilité d’influencer positivement les événements depuis Google DeepMind, mais l’effet ne semble pas significatif, et je peux aussi influencer depuis l’extérieur de Google », a-t-il réfléchi.

Cette nouvelle démission publique survient après celle de Jacob Coxon, chercheur chez Anthropic, qui a accusé cette entreprise et son concurrent, OpenAI, de « jouer avec nos vies ».

« J’ai démissionné d’Anthropic aujourd’hui. J’ai passé les trois dernières années à rechercher le pré-entraînement, tant chez OpenAI qu’chez Anthropic. Aucune des deux entreprises n’agit de manière responsable. Elles avancent à toute vitesse vers la superintelligence auto-améliorante et jouent avec nos vies », a déclaré Coxon dans un message sur les réseaux sociaux.

« Ceux qui développent l’IA croient sincèrement qu’elle pourrait nous éliminer tous d’ici la fin de la décennie », a-t-il assuré.

La course pour devenir l’entreprise la plus avancée en intelligence artificielle a poussé les sociétés à écarter d’autres considérations sur le développement de cette technologie.

Coxon a précisé que, bien qu’Anthropic prenne davantage en compte ces questions qu’OpenAI, les deux « sont engagées dans une course pour arriver en premier ».

Depuis que Coxon a démissionné publiquement, une discussion s’est développée dans le monde entier sur l’avenir de l’IA, ses limites et ses possibles bénéfices (ou risques) pour l’humanité.

Dario Amodei a demandé de ralentir le développement de l’IA

Le PDG d’Anthropic, Dario Amodei, s’est référé à la nécessité de modérer le développement de l’intelligence artificielle quelques jours après les déclarations de Coxon.

« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA. Le progrès continuera à sembler rapide, et nous devons utiliser sagement le temps que nous gagnons », a soutenu Amodei.

Dans son essai, Amodei a expliqué que sa proposition visait à répondre à deux préoccupations : l’avancement accéléré de l’IA et les risques posés par les essaims d’agents. « Comme de nombreuses technologies précédentes, l’IA comporte des risques, et en raison de son grand pouvoir, ces risques sont graves », a-t-il affirmé.

« Ils incluent le risque de perdre le contrôle des systèmes d’IA, l’utilisation abusive de l’IA pour des cyberattaques et le bioterrorisme, ainsi que de graves troubles économiques. Une course vers le bas, impulsée par des incitations commerciales, peut aggraver ces risques », a ajouté Amodei.

Elon Musk et Sam Altman ont soutenu la proposition d’Amodei, tandis que Jensen Huang et Mark Zuckerberg ont adopté des positions différentes.

Huang a participé à un appel avec Mark Zuckerberg lors du sommet de l’IA de Los Angeles. Ils y ont abordé les risques de l’IA et ont soutenu la poursuite du développement technologique.

De son côté, Trump a qualifié les craintes et les avertissements concernant les dangers de l’intelligence artificielle de « tromperie » ou de « farce ».

Il a affirmé que ceux qui demandent de ralentir l’avancée de l’IA servent des intérêts étrangers ou des concurrents comme la Chine, et a assuré que les États-Unis ne permettront pas que ce développement technologique soit freiné. Huang a partagé ce point de vue et a indiqué qu’ils ne permettront pas que le développement de l’intelligence artificielle s’arrête.

Zuckerberg, pour sa part, a soutenu que chaque laboratoire a la responsabilité et les incitations pour avancer au rythme nécessaire afin d’entraîner ses modèles en toute sécurité, ainsi que la capacité d’adopter ses propres mesures pour le garantir.