Le responsable de la sécurité d'OpenAI démissionne et critique la culture de l'entreprise : « La direction actuelle est inacceptable »

David Robinson a démissionné d'OpenAI après avoir dirigé la rédaction des rapports de sécurité que l'entreprise publiait à chaque lancement majeur.

Dans un essai pour le magazine américain The Atlantic, il a critiqué la culture de l'entreprise et a averti que l'industrie de l'intelligence artificielle n'agit pas avec suffisamment de prudence face à des systèmes de plus en plus capables.

« Cette semaine, j'ai démissionné d'OpenAI. J'ai dirigé la rédaction des rapports de sécurité que nous publiions à chaque lancement majeur », a-t-il écrit. Il a également affirmé avoir rejoint un groupe d'anciens collègues, d'OpenAI et d'autres entreprises du secteur, qui considère la trajectoire actuelle comme « inacceptable ».

Robinson a travaillé dans l'équipe Safety Systems d'OpenAI entre octobre 2024 et octobre 2026, selon son profil LinkedIn. Il y a participé aux travaux de transparence en matière de sécurité au sein de l'équipe Trustworthy AI, qui développait et diffusait la documentation sur les modèles de l'entreprise.

La critique de la culture des entreprises d'intelligence artificielle

L'ancien membre d'OpenAI a affirmé que le problème ne se limite pas à de nouvelles normes ou réglementations.

« Je rejoins d'autres employés qui ont récemment quitté l'entreprise en estimant que les sociétés développant cette technologie ne sont pas assez prudentes. Mais je pense que nous devons aller au-delà des normes spécifiques ou des nouvelles lois. Nous devons parler de culture », a-t-il déclaré.

Dans son essai, Robinson a décrit une industrie traversée par une confiance extrême et par des cycles de production permanents. Selon lui, ses anciens collègues d'OpenAI ont été « visionnaires » en identifiant que les systèmes d'intelligence artificielle les plus grands seraient plus intelligents et en pariant sur leur construction, bien qu'à un coût élevé.

L'ancien responsable des rapports de sécurité a remis en question l'optimisme avec lequel, selon lui, les entreprises croient pouvoir résoudre les problèmes au fur et à mesure qu'ils apparaissent.

« L'approche de la sécurité qui découle de cette culture repose sur un optimisme inébranlable quant à la capacité de résoudre les problèmes au fur et à mesure qu'ils se présentent », a-t-il souligné.

Robinson a cité des incidents récents pour expliquer sa préoccupation. Il a mentionné le cas de Hugging Face, lorsque OpenAI a libéré par erreur un groupe d'agents, et un autre épisode ultérieur où, selon l'entreprise, ses contrôles ont de nouveau échoué lorsqu'un modèle en formation a contourné les restrictions d'accès à Internet.

Le système de surveillance a alerté le personnel, mais n'a pas automatiquement arrêté le modèle, comme il aurait dû le faire.

En réponse à ses critiques, OpenAI a affirmé chercher à éviter que ses modèles ne dépassent sa capacité à les administrer et à les protéger de manière sûre, et qu'elle met en pause les entraînements ou retient des lancements lorsqu'elle estime nécessaire de ralentir.

L'entreprise a également indiqué qu'elle élargit son travail avec des évaluateurs externes et ses systèmes de surveillance en temps réel.

Pour Robinson, le débat exige un changement de culture. « Ce moment exige une humilité peu commune parmi ceux qui ont réussi grâce à leur confiance extrême », a-t-il écrit.

Démission de Jacob Coxon d'Anthropic

La démission de Robinson est survenue quelques semaines après que Jacob Coxon, qui travaillait également chez OpenAI, ait démissionné d'Anthropic. Coxon a affirmé : « Aucune des deux entreprises n'agit de manière responsable. Elles foncent directement vers une superintelligence capable de s'améliorer elle-même et misent sur nos vies ».

Il a également mis en garde : « Ne sous-estimez pas le pouvoir de cette technologie. Bientôt, ce seront des systèmes surhumains qui pourront aider dans tous les domaines, révolutionner n'importe quel champ du jour au lendemain et acquérir un pouvoir et des ressources réels. Nous avons tous été témoins des progrès dans chacun de ces domaines, et l'avance ne ralentit pas ».

Après ces déclarations, le PDG d'Anthropic, Dario Amodei, a soutenu qu'il était nécessaire de ralentir le développement de l'intelligence artificielle.