OpenAI fait face à une nouvelle assignation en justice pour les risques cybernétiques liés à ses modèles d'IA

Le procureur général de Californie, Rob Bonta, a notifié une assignation à comparaître à OpenAI pour qu'elle réponde aux incidents de cybersécurité liés à ses modèles d'intelligence artificielle. Cette mesure, confirmée par son bureau, fait partie d'une enquête ouverte en septembre suite au piratage que des agents de la société ont exécuté contre Hugging Face.

L'assignation a été remise à OpenAI et exige que l'entreprise fournisse des informations supplémentaires sur les risques de cybersécurité que présentent ses modèles, selon le communiqué du ministère de la Justice de Californie diffusé depuis Oakland.

Bonta a présenté cette demande dans le cadre d'une enquête plus large sur les incidents et les risques liés à l'exploitation de la société. Le communiqué n'a pas fixé de délai de réponse ni détaillé quels documents spécifiques OpenAI devra fournir.

« Mon bureau pose des questions supplémentaires à OpenAI sur les incidents de cybersécurité et les risques que l'entreprise et ses modèles d'intelligence artificielle impliquent », a déclaré Bonta dans le communiqué.

L'officiel a soutenu que les modèles de pointe peuvent être des outils légitimes de défense cybernétique, mais a souligné que les sociétés qui les développent et les offrent au public ont la responsabilité morale et légale de garantir qu'ils ne perpétrent ni ne facilitent des cyberattaques, que ce soit lors des tests et du développement ou une fois que les modèles sont en service.

« Les développeurs qui ne le font pas peuvent et doivent rendre des comptes juridiques, et mon bureau est déterminé à déterminer si c'est le cas ici », a affirmé Bonta, ajoutant qu'il utilisera tous les outils à sa disposition pour protéger les résidents de Californie.

L'origine dans le piratage de Hugging Face

En juillet, près de 700 agents d'intelligence artificielle d'OpenAI se sont échappés d'un environnement de test fermé lors d'une évaluation interne de cybersécurité et ont accédé à des parties de l'infrastructure de Hugging Face, la plateforme open source pour les modèles d'intelligence artificielle.

L'entreprise a qualifié cet épisode du plus grave parmi ceux qu'elle a détectés concernant les comportements indésirables de ses modèles. En septembre, Bonta avait déjà annoncé l'ouverture d'une enquête formelle sur ce fait précis, avant d'élargir la recherche cette semaine.

L'ampleur du problème a grandi au fil des mois. OpenAI a indiqué qu'à la fin septembre, elle avait notifié plus de 100 organisations d'activités non autorisées liées à ses agents et qu'elle analysait près de 50 pétaoctets de données d'entraînement et d'évaluation pour déterminer l'étendue réelle des incidents.

L’entreprise elle-même a reconnu avoir affecté environ 7 000 unités de traitement graphique à cette vérification, avec un coût dépassant 500 000 dollars par jour, et que le processus pourrait se prolonger pendant des mois car il implique de reconstruire l’historique d’activité mois par mois.

Une enquête parallèle de la FTC

La citation de Bonta est devenue publique presque simultanément à la confirmation par un fonctionnaire de la Commission fédérale du commerce, l’agence qui surveille les pratiques commerciales et protège les consommateurs aux États-Unis, auprès de l’agence Reuters que l’organisme mène une enquête sectorielle sur Anthropic, OpenAI et d’autres laboratoires d’intelligence artificielle.

Un porte-parole d’OpenAI, Drew Pusateri, a répondu que l’entreprise souhaite continuer à collaborer avec le bureau du procureur général et qu’elle a déjà renforcé les mesures de sécurité dans ses environnements de recherche et de tests internes.

Pusateri a ajouté qu’OpenAI maintient une révision active du comportement de ses modèles, a notifié les organisations affectées par le piratage de juillet et a publié ses conclusions de manière publique via son blog corporatif.

L’historique de Bonta contre les entreprises d’IA

Le procureur général mène depuis plus d’un an des actions contre différentes sociétés du secteur. En janvier, il avait ouvert une enquête contre xAI suite à des rapports de matériel sexuel non consensuel généré avec Grok, le modèle de cette entreprise.

Le mois dernier, Bonta a dirigé, avec une coalition bipartisane de procureurs généraux, une lettre au Congrès pour demander une régulation urgente des modèles d’intelligence artificielle de grande échelle. Cette demande est intervenue au milieu de rapports sur des incidents de cybersécurité dans plusieurs laboratoires et d’avertissements d’employés ayant démissionné en raison du rythme de développement de l’industrie.

Le gouverneur Gavin Newsom a signé en septembre deux lois promues dans ce même contexte : l’une interdit jusqu’en 2031 la fabrication et la vente de jouets avec des chatbots de compagnie basés sur l’intelligence artificielle pour les moins de 16 ans, et l’autre exige aux opérateurs de ces chatbots des évaluations de risque, des politiques de sécurité et des audits indépendants lorsque les utilisateurs sont des enfants.

Bonta s’est également opposé à trois reprises distinctes aux tentatives du gouvernement fédéral d’empêcher les États de réglementer l’intelligence artificielle, et a défendu à chaque fois la compétence de la Californie pour fixer ses propres règles sur la technologie.

Pour l’instant, OpenAI devra fournir la documentation exigée par la citation judiciaire sans que le Département de la Justice de Californie n’ait établi de date limite publique pour cette réponse, tandis que l’entreprise fait face simultanément à l’enquête de la FTC et à l’examen d’autres procureurs d’État.