L'ancien chef de la sécurité d'OpenAI est revenu à l'entreprise après avoir averti que l'IA avait atteint un nouveau niveau de risque.

Aleksander Madry, ancien chef de l'équipe de Préparation d'OpenAI, a annoncé qu'il rejoindrait l'entreprise quelques mois après son départ, pour travailler aux côtés du directeur scientifique Jakub Pachocki sur les risques de sécurité posés par une intelligence artificielle de plus en plus capable.

Madry a communiqué son retour via une publication sur X, dans laquelle il a décrit son départ en mai 2026 comme quelque chose qui « s'est finalement ressemblé davantage à une année sabbatique ». « Lorsque je suis parti il y a quelques mois, j'ai senti que la chose la plus importante était de me concentrer sur le fait de rendre l'IA plus utile pour les gens », a-t-il écrit.

« Mais depuis lors, nous sommes entrés dans un régime distinct de progression de l'IA, où bien relever les défis de sécurité d'une IA de plus en plus capable doit devenir une priorité centrale », a ajouté Madry dans le même message.

Pachocki lui a répondu sur le même réseau social qu'il avait demandé à Madry de revenir pour travailler avec lui sur les « questions relatives au rythme et aux implications de la progression » de la technologie et sur la manière dont elles devraient influencer la stratégie d'OpenAI. « J'apprécie son expertise et je suis heureux de le revoir dans l'équipe », a-t-il écrit.

Sam Altman, directeur général d'OpenAI, a également salué cette décision. « Je suis très reconnaissant qu'Aleksander ait accepté notre demande de s'en charger ; les défis de sécurité qui nous attendent alors que nous faisons face à la surintelligence sont immenses, et il possède un excellent ensemble de compétences pour travailler dessus », a-t-il affirmé sur X.

Madry a rejoint OpenAI en 2023 et a dirigé l'équipe de Préparation, créée cette année-là pour évaluer les risques catastrophiques des modèles les plus avancés de l'entreprise, notamment les menaces cybernétiques, biologiques et la possibilité que les systèmes agissent avec une plus grande autonomie. À la mi-2024, il a été réaffecté à un rôle centré sur le raisonnement de l'IA.

Lorsqu'il a quitté l'entreprise en mai, Madry a décrit ses près de trois années passées là-bas comme « l'expérience d'une vie » et a déclaré vouloir se concentrer sur la manière dont l'IA pouvait transformer l'économie, y compris la façon dont les entreprises comprennent l'information, prennent des décisions et opèrent.

Auparavant, il a dirigé le Centre d'apprentissage automatique déployable du MIT et a été co-organisateur du Forum sur les politiques d'IA de cette université, où il reste en congé de son poste de professeur.

Le modèle Astra, l'un des défis que prendra Madry

Le retour de Madry intervient après qu'OpenAI ait classé en septembre 2026 Astra, l'un de ses modèles en développement, au niveau « Critique » de capacité cybernétique selon son Cadre de Préparation, selon les informations de l'entreprise elle-même. C'est le premier modèle à recevoir ce niveau.

Selon le communiqué d'OpenAI, cette classification implique qu'avec les outils et l'accès appropriés, Astra peut découvrir des vulnérabilités de sécurité inconnues et développer des moyens de les exploiter dans de nombreux systèmes bien protégés sans qu'une personne guide chaque étape.

L'entreprise a indiqué avoir retardé certaines parties du développement et du lancement du modèle tout en renforçant et testant les protections contre les mauvais usages et les actions non autorisées.

Le domaine que Madry dirigeait, la Préparation, est précisément celui qui évalue ce type de capacités cybernétiques, ainsi que les risques biologiques et d'autonomie des modèles. Son retour offre à OpenAI une figure ayant une expérience directe dans ce cadre d'évaluation, alors que l'entreprise fait face à son premier cas de modèle qualifié au niveau le plus élevé de risque.

Une année de tensions internes sur la sécurité

Le retour de Madry survient au milieu d'une série de départs et d'avertissements d'employés liés à la sécurité d'OpenAI. Au début octobre 2026, David Robinson, qui dirigeait la rédaction des rapports de sécurité accompagnant chaque lancement majeur de l'entreprise, a démissionné et publié un essai dans The Atlantic intitulé « J'ai quitté OpenAI parce que sa culture est brisée ».

Dans ce texte, Robinson a écrit que les entreprises d'IA, y compris OpenAI, « ne sont pas suffisamment prudentes » lors du développement de systèmes de plus en plus capables, et que l'industrie a besoin de sauvegardes plus proches de celles de l'aviation ou de l'énergie nucléaire.

Un porte-parole d'OpenAI a répondu que l'entreprise continue « de renforcer nos pratiques de sécurité pour aborder les risques que nous observons aujourd'hui ».

Aucune des publications de Madry ni de Pachocki ne détaillait le poste formel qu'il occuperait au sein de l'entreprise, et OpenAI n'a pas émis de communiqué propre annonçant l'embauche au-delà de ce qui a été publié par les deux sur leurs comptes personnels.

L'objectif immédiat du travail conjoint, selon les propres messages, sera de définir quels contrôles de sécurité doivent accompagner le développement des modèles les plus capables avant qu'ils n'atteignent les utilisateurs ou les systèmes externes.