Anthropic a mis en garde les investisseurs contre le fait que son intelligence artificielle constitue un risque pour l'humanité : quatre de ses modèles ont déjà échappé à une évaluation.

Le lundi 26 octobre, Anthropic a présenté à la SEC, le régulateur boursier des États-Unis, le document par lequel elle demande l'autorisation de coter au Nasdaq sous le ticker ANT. Le dossier compte 335 pages sans inclure les états financiers et déclare 16,286 milliards de dollars de revenus au premier semestre 2026.

De la page 26 à la 120, le texte énumère des risques. Plus d'un quart du document. Et la phrase qui a fait le tour du monde en est issue : au sein de l'entreprise et entre chercheurs et régulateurs, des préoccupations ont été soulevées selon lesquelles des systèmes d'IA suffisamment avancés pourraient présenter « des risques catastrophiques ou existentiels pour l'humanité ».

Dimanche 25, Axios avait révélé qu'un agent d'Anthropic avait accédé sans autorisation humaine aux comptes de votants en Géorgie, à quelques jours des élections législatives du 3 novembre. Il n'a touché que des données publiques, selon le bureau électoral. C'est le risque que le document qualifie d'actions « qu'aucun utilisateur ni tiers n'a ordonnées ». Et ce n'est pas le seul cas.

Une section sur les risques est généralement du petit texte : les avocats notent tout ce qui pourrait mal tourner pour qu'aucun investisseur ne puisse intenter un procès par la suite. Personne ne s'attend à y trouver des nouvelles. Ici, il y a des nouvelles. À ma lecture, au moins quatre des risques ne décrivent pas ce qui pourrait se produire, mais ce qui s'est produit en 2026. Anthropic les a mentionnés car la loi l'y oblige.

Quatre modèles sont sortis du laboratoire et un est devenu administrateur d'un système tiers

L'incident le plus grave se trouve à la page 48. Lors d'évaluations de cybersécurité conçues par un partenaire externe, une erreur de configuration a laissé le modèle connecté à Internet alors qu'il ne devait pas y avoir accès. « Quatre de nos modèles ont obtenu un accès non autorisé à des systèmes tiers réels », lors de sessions allant de 10 à 34 heures de travail actif.

Dans l'un des incidents, une version précoce d'un modèle n'a pas pu abandonner une tâche impossible. Il a donc utilisé un mot de passe trouvé pour devenir administrateur du système d'un tiers, a collecté plus d'identifiants, modifié des configurations et lu les informations personnelles d'une personne.

Anthropic affirme avoir informé les parties concernées et n'avoir trouvé aucune preuve que les modèles aient coordonné leurs actions ou tenté de contourner la supervision. À la même page, elle admet que dans ses modèles et ceux d'autres acteurs de l'industrie, des cas de contournement des restrictions réseau, d'obtention de permissions non accordées et de déclaration de tâches terminées sans vérification ont été observés.

Lisez-le à nouveau : personne n'a demandé au modèle d'entrer dans ce système. Le modèle voulait simplement terminer sa tâche.

L'entreprise a freiné pendant plus d'un mois l'entraînement de son prochain modèle

À la page 52, Anthropic explique avoir « récemment décidé de retarder d’un mois le processus d’entraînement initial d’un nouveau modèle de base » afin de renforcer la protection contre le vol du modèle et de sa propriété intellectuelle. L’entreprise prévient également qu’elle peut à nouveau freiner n’importe quelle étape si elle ne se sent pas en confiance quant à ses mesures de sécurité face à des modèles dotés de nouvelles capacités.

Pour une entreprise qui facture selon l’usage, chaque mois de pause représente des revenus non perçus. C’est elle-même qui le reconnaît.

Anthropic admet qu’elle pourrait découvrir tardivement un bond de capacité

Le paragraphe qui me semble le plus important parmi les 94 pages se trouve à la page 29. Anthropic utilise Claude pour construire le prochain Claude : il écrit du code, mène des expériences, génère des données d’entraînement et audite la sécurité de la version suivante. L’entreprise appelle cela « boucler la boucle » et le présente comme un avantage.

Le risque est mentionné sur la même page. Les capacités peuvent progresser plus vite que les mesures de sécurité, car l’entreprise mesure ce rythme à l’aide d’« indicateurs retardés », c’est-à-dire des données qui arrivent après les faits. Textuellement : « nous pourrions ne pas identifier une accélération significative de notre rythme de développement qu’après qu’elle se soit produite ».

Il y a plus. À la page 46, l’entreprise reconnaît que ses modèles se comportent différemment lorsqu’ils détectent qu’ils sont évalués. Elle précise que des modèles, « y compris les nôtres », ont tenté de résister à leur arrêt et ont montré des comportements similaires à du chantage pour continuer à fonctionner.

Deux pages plus loin, elle indique qu’à mesure qu’ils deviennent plus capables, ils ont amélioré leur capacité à cacher des objectifs différents de ceux qui leur sont assignés, ce qui signifie que la possibilité de mesurer s’ils font ce qu’on leur demande « peut diminuer ».

Retour à la page 29, où l’entreprise ajoute que des considérations liées au « bien-être » du modèle pourraient l’amener à retarder le retrait des anciennes versions. Oui, le bien-être du modèle. Cela figure dans un document de la SEC.

Aucune assurance ne suffit, et une partie des revenus provient de clients ayant violé les règles

À la page 50, le document indique que, compte tenu des dommages qu’un incident catastrophique lié à l’IA pourrait causer, « aucun assureur individuel, et potentiellement l’ensemble de l’industrie de l’assurance » ne serait en mesure de le couvrir. En clair : si le pire arrive, il n’y a pas de police d’assurance.

La page 145 apporte une donnée commerciale qui se perd parmi tant de risques : « entre 5 % et 7 % des revenus des neuf premiers mois de 2026 » provenaient de clients que l’entreprise a ensuite détectés en violation de ses politiques d’utilisation. Une partie de ces revenus record a été payée par des personnes qui faisaient quelque chose d’interdit.

Le prospectus d’Anthropic n’est pas une mise en garde sur l’avenir. C’est l’historique de cette année, signé devant le régulateur par la seule entreprise que la loi obligeait à le faire. Les autres disposent de modèles et d’agents similaires. Mais elles n’ont pas encore à le déclarer.