OpenAI a dissous son équipe dédiée à l'atténuation des risques de l'intelligence artificielle en moins d'un an

La dissolution de l'équipe Superalignment est intervenue quelques jours après que ses dirigeants, Sutskever et Leike , ont annoncé leur démission sur les réseaux sociaux. Dans sa déclaration, Sutskever s'est dit convaincu que « OpenAI construira AGI de manière sûre et bénéfique » sous la direction actuelle. Il a ajouté qu'il était enthousiasmé par un nouveau projet qu'il considère comme « personnellement important », même s'il n'a pas donné plus de détails à ce sujet.

Leike, pour sa part, a expliqué dans Il a noté que son équipe s'était battue pour obtenir des ressources informatiques essentielles à ses recherches, ce qui rendait de plus en plus difficile l'accomplissement de sa mission.

Comme l'explique CNBC , l'équipe Superalignment a été chargée de résoudre les défis techniques fondamentaux de l'alignement de la superintelligence en quatre ans, en utilisant 20 % de la puissance de calcul d' OpenAI . Les risques abordés comprenaient l’utilisation abusive de la technologie, les perturbations économiques, la désinformation, les préjugés et la discrimination, la dépendance et la dépendance excessive.

Suite à des démissions et à la dissolution de l'équipe, certains membres ont été réaffectés à d'autres équipes au sein d' OpenAI . NBC News a confirmé ces déménagements via une source anonyme. Cependant, lorsque l'entreprise a été contactée pour commentaires, elle a seulement recommandé le récent message de Sam Altman sur X , dans lequel il a exprimé sa tristesse face au départ de Leike et a noté que l'entreprise avait encore du travail à faire.

Le départ de Sutskever et Leike n'est pas sans rappeler la crise de leadership qu'OpenAI a connue en novembre dernier, lorsque le conseil d'administration de l'entreprise a évincé Altman , déclenchant une réaction en chaîne qui comprenait des démissions et des menaces de démission de la part d'employés et d'investisseurs, dont Microsoft .

Sutskever, qui a joué un rôle clé dans l'éviction d'Altman, a ensuite exprimé ses regrets pour sa participation à cet événement.

Bien qu'il soit resté chez OpenAI en tant que scientifique senior, il n'occupe plus de poste au conseil d'administration. Après son départ annoncé, Altman a commenté sur X : « C'est très triste pour moi ; "Ilya est sans conteste l'un des esprits les plus brillants de notre génération, un guide dans notre domaine et un ami cher." En outre, le PDG a nommé Jakub Pachocki pour lui succéder au poste de scientifique en chef.

Business Insider a souligné que la nouvelle du démantèlement de l'équipe Superalignment et des démissions de Sutskever et Leike coïncidait avec le lancement de nouveaux produits par OpenAI . La société a introduit une mise à jour du modèle GPT-4 et une version de bureau de ChatGPT , avec une interface utilisateur améliorée et de nouvelles fonctionnalités de chat vidéo.