Une vague de cyberattaques frappe les plateformes d'intelligence artificielle : des pirates volent les clés d'accès et génèrent des dépenses pour les victimes.

Au moins 14 plateformes utilisées par les développeurs pour créer et héberger des applications d'intelligence artificielle ont signalé des incidents de sécurité entre octobre et les premiers jours de novembre, selon le cabinet de cybersécurité Wiz. Dans plusieurs cas, les pirates ont cherché des clés d'accès aux modèles d'IA pour générer des centaines de milliers de requêtes dont les coûts ont été imputés aux victimes.

Wiz a publié son bilan le 30 octobre avec neuf cas, allant de Fireworks AI (6 octobre) à Northflank (30 octobre). Il a ensuite intégré Brev, de Nvidia, Trigger.dev, Chainstack, kernel.sh et Blacksmith, qui a signalé son incident le 5 novembre. Le cabinet a également recueilli des rapports sur les réseaux sociaux concernant un possible attaque contre RunPod, encore sans confirmation.

Les rapports publics identifient un schéma d'attaques ciblant les variables d'environnement, des configurations où les plateformes stockent les mots de passe et clés d'accès de leurs clients, en particulier ceux utilisés pour accéder aux modèles d'IA. Cependant, plusieurs incidents restent sous enquête et Wiz n'a trouvé ni vulnérabilité commune ni preuves suffisantes pour attribuer toutes les intrusions à un même groupe.

Le cabinet décrit l'une des principales conséquences comme étant le LLMJacking : utiliser des clés volées pour exécuter des modèles d'IA au nom d'une autre organisation ou revendre l'accès à des tiers. Selon Wiz, les intermédiaires qui commercialisent ces identifiants alimentent un marché qui rend le vol rentable et attire davantage d'attaquants.

Clés testées en 30 minutes et utilisées jours plus tard

Wiz a retracé deux cas d'entreprises dont les clés ont été compromises via l'une des plateformes touchées. Dans les deux cas, la première activité non autorisée s'est produite 30 minutes après l'accès aux identifiants : une seule requête provenant d'une adresse IP résidentielle qui a testé les clés de plusieurs organisations simultanément.

Dans le premier cas, la clé a reçu entre 14 et 120 appels quotidiens durant les jours suivants, ce que Wiz interprète comme une vérification confirmant qu'elle était toujours valide. Au quatrième jour, un trafic massif est arrivé : environ 800 000 appels en 30 heures vers le service Bedrock d'Amazon, avec un taux de succès proche de 90 %, jusqu'à ce que l'entreprise corrige le problème.

La clé du second cas comportait des restrictions et est apparue sept jours plus tard dans ce qui semblait être un groupe de revente. En 13 heures, une seule adresse a réalisé environ 1,7 million d'appels, dont plus d'un million ont abouti avec succès. Wiz a identifié que le même programme, avec exactement le même numéro de version, avait examiné les deux clés avant ces utilisations massives.

L'impact économique a également été significatif. Selon Wiz, la consommation générée par ces deux cas aurait dépassé 100 000 USD, calculée aux prix du catalogue. L'entreprise a également recueilli des rapports sur les réseaux sociaux concernant un prétendu vol de 371 000 USD en cryptomonnaies via des clés stockées sur Railway et des factures de centaines ou de milliers de dollars pour les utilisateurs d'OpenCode. Ces dernières données sont des témoignages isolés et ne constituent pas des pertes vérifiées de manière indépendante.

Une plateforme fermera et une autre a demandé de changer toutes les clés

Zeabur a annoncé qu'elle cesserait ses activités en conséquence de l'incident, selon Wiz, qui cite le rapport complet publié par l'entreprise elle-même.

Northflank, après avoir reçu une alerte de Wiz le 30 octobre, a demandé à ses clients de supposer que toutes les variables d'environnement avaient été compromises et de révocquer et remplacer leurs identifiants, a rapporté BleepingComputer. Il a ensuite confirmé que certains utilisateurs avaient signalé l'utilisation non autorisée de clés d'IA.

Fireworks a détecté son incident le 6 octobre. Selon son bulletin, un tiers a utilisé des identifiants internes pour accéder aux variables d'environnement de tâches d'évaluation sur un nombre limité de comptes. L'entreprise a indiqué qu'elle n'avait trouvé aucune preuve d'accès aux modèles, aux données d'entraînement ni aux requêtes.

Wiz souligne que Fireworks, OpenCode et Warp ont signalé des indices d'un « essaim d'agents », c'est-à-dire de systèmes automatisés qui auraient pu participer aux offensives. Cependant, ces indices ne prouvent pas que les trois attaques aient eu les mêmes responsables.

OpenCode et CommandCode ont attribué leurs incidents à des tentatives de « distillation », une technique qui permet d'entraîner un modèle d'IA en utilisant les réponses générées par un autre plus avancé. Wiz souligne que cette pratique a également fait l'objet d'accusations contre des laboratoires chinois et qu'elle peut inciter la demande de clés volées, bien qu'elle n'établisse pas que ces organisations soient derrière les incidents investigués.

Alex Stamos, directeur de la sécurité de Cognition, a affirmé dans le podcast Decoder de The Verge que des clés volées à Fireworks auraient facilité l'accès à Cursor, dont la boutique a distribué une extension malveillante. Il a présenté cette reconstruction comme une information préliminaire.

Cependant, les communiqués officiels de Cursor et Fireworks ne confirment pas ce lien. Le premier a informé qu'une version manipulée de l'extension Claude Code a pu affecter au maximum 5 000 utilisateurs, et non des entreprises. Il n'a pas non plus expliqué comment les attaquants ont réussi à introduire le logiciel malveillant dans sa boutique d'extensions, selon Ars Technica. De son côté, le bulletin de la seconde entreprise ne mentionne pas le prétendu lien entre les deux incidents.

Pour réduire les risques, Fireworks avertit que la suppression d'une clé stockée sur une plateforme n'annule pas automatiquement l'identifiant original. Il est nécessaire de le révoquer auprès du fournisseur qui l'a émis, d'en générer un nouveau et de vérifier les journaux d'activité pour identifier d'éventuelles requêtes non autorisées.

Dans le cas de Northflank, la Cloud Security Alliance a indiqué le 4 novembre que l'enquête sur l'incident était toujours en cours. L'entreprise avait annoncé qu'elle communiquerait ses conclusions une fois l'analyse forensique terminée, de sorte que l'étendue définitive de l'intrusion n'avait pas encore été établie publiquement.