OpenAI et Anthropic seront enquêtés pour leurs pratiques internes en matière de confidentialité et de sécurité.

OpenAI et Anthropic cherchent à conserver un contrôle significatif sur les informations que les évaluateurs externes de l'intelligence artificielle peuvent publier, par crainte que leurs rapports ne révèlent des secrets commerciaux ou des données confidentielles susceptibles d'avantager leurs concurrents.

La position de ces deux entreprises ouvre un débat sur l'indépendance des audits de sécurité et la transparence nécessaire pour identifier les risques liés à des modèles de plus en plus avancés.

Selon une enquête de Reuters, les deux laboratoires mènent des discussions sur les conditions que doivent remplir les organisations indépendantes chargées d'examiner leurs systèmes. Parmi les mesures envisagées figurent la supervision des équipes d'évaluation et des restrictions empêchant ceux qui examinent les modèles d'une entreprise de travailler simultanément pour une autre.

Le conflit naît du fait que les résultats de ces évaluations peuvent inclure des informations techniques sensibles, mais aussi révéler des vulnérabilités et des comportements pertinents pour déterminer si une intelligence artificielle représente un risque pour ses utilisateurs ou pour la société.

Pourquoi OpenAI et Anthropic veulent contrôler les rapports

Les évaluateurs externes sont des organisations spécialisées qui examinent les modèles d'intelligence artificielle pour identifier les défaillances de sécurité, les réponses dangereuses, les vulnérabilités et les usages abusifs potentiels. Leur travail permet de détecter des problèmes qui pourraient passer inaperçus lors des tests réalisés par les développeurs eux-mêmes.

Cependant, la publication de leurs résultats peut générer des tensions lorsque les rapports incluent des détails sur le fonctionnement interne des systèmes. Pour les laboratoires, protéger ces informations est important pour éviter que des concurrents n'accèdent à des connaissances techniques ou à des éléments constitutifs de leur propriété intellectuelle.

Le problème est que certaines données considérées comme confidentielles par les entreprises peuvent également être fondamentales pour comprendre la gravité d'une défaillance. Si les laboratoires ont la capacité de décider quelles informations sont divulguées, ils pourraient limiter la publication de résultats pertinents pour la sécurité publique.

Reuters avertit que ces discussions reflètent une tension entre la nécessité d'informer sur les risques d'une intelligence artificielle puissante et l'intérêt commercial d'entreprises cherchant à consolider leur position sur un marché à forte valeur économique.

Anthropic se réserve des prérogatives sur les nouveaux évaluateurs

Anthropic soutient que les discussions sur le contrôle des rapports ne représentent pas entièrement ses accords avec les évaluateurs indépendants avec lesquels elle a déjà travaillé.

Selon la société, ces collaborateurs conservent le contrôle sur leurs méthodes, les critères utilisés pour examiner les modèles, les conclusions de leurs recherches et les décisions liées à la publication des résultats.

Cependant, la situation change lorsqu'il s'agit de nouvelles organisations évaluatrices. Anthropic se réserve le droit de commenter et d'approuver leurs rapports pendant que les équipes acquièrent de l'expérience avec ses modèles et qu'une relation de travail s'établit.

Cette approche soulève des interrogations sur l'indépendance des audits lors de leurs premières étapes. Bien que la révision d'informations confidentielles puisse être nécessaire, la possibilité qu'une entreprise intervienne dans l'approbation des résultats pourrait générer des doutes sur la liberté des évaluateurs à communiquer certains constats.

OpenAI nie chercher à approuver tous les rapports

OpenAI, de son côté, a rejeté l'idée que son intention soit d'approuver le contenu complet des documents élaborés par des organisations externes. La société affirme que sa pratique habituelle consiste à éliminer les informations confidentielles, plutôt qu'à contrôler toutes les conclusions des évaluateurs.

La distinction est pertinente, car retirer des données permettant de reproduire une vulnérabilité ou d'accéder à des secrets commerciaux n'équivaut pas nécessairement à empêcher d'informer sur l'existence d'un problème.

Néanmoins, en l'absence de règles communes définissant quelles informations peuvent être occultées et quels résultats doivent être rendus publics, les entreprises pourraient conserver une influence considérable sur les audits.

L'indépendance des audits d'IA, en discussion

Les entreprises technologiques imposent généralement des obligations de confidentialité à leurs collaborateurs pour protéger des informations sensibles. Dans le cas de l'intelligence artificielle, ces restrictions revêtent une importance particulière car les évaluateurs ont besoin d'accéder à des systèmes internes, à une documentation technique et à des outils qui ne sont pas disponibles au public.

Selon Reuters, l'absence de normes établies pour ces révisions pourrait laisser aux laboratoires la capacité d'influencer les résultats publiés, en particulier parce que les évaluateurs dépendent de leur accès aux modèles.

Le défi sera de trouver un équilibre entre la protection des secrets commerciaux et le droit de connaître les risques d'une technologie déjà utilisée dans des domaines tels que le travail, l'éducation et la recherche.

La manière dont OpenAI et Anthropic résoudront ces négociations pourrait influencer la crédibilité des futurs audits. Si les évaluateurs ne disposent pas d'une autonomie suffisante, leurs rapports pourraient perdre leur valeur en tant que mécanisme indépendant de supervision de l'intelligence artificielle.