Un groupe d'organisations à but non lucratif a assigné en justice OpenAI, Anthropic, Meta et la division d'intelligence artificielle de SpaceX afin qu'un juge leur interdise de continuer à développer les modèles d'IA les plus avancés. Les demandeurs soutiennent que les entreprises elles-mêmes admettent que cette technologie peut être catastrophique.
La plainte a été déposée devant la Cour supérieure de Californie dans le comté de San Francisco. Les demandeurs sont Irreplaceable Education Fund, Public Citizen, Heat Initiative et The Alliance for Secure AI, selon le communiqué de Public Citizen.
Les groupes invoquent la loi californienne sur la concurrence déloyale. Ils affirment que les entreprises adoptent des pratiques qui causent une nuisance publique, c'est-à-dire un préjudice à la santé et à la sécurité de la communauté.
L'agence Reuters a indiqué que la réclamation vise des produits tels que ChatGPT, Gemini et Claude.
Le texte, de 63 pages selon Courthouse News Service, énumère les pratiques qu'il cherche à freiner : l'amélioration récursive des systèmes d'IA (qui s'améliorent eux-mêmes), le développement de l'intelligence artificielle générale ou de la superintelligence, et les systèmes capables de compromettre des réseaux tiers ou de s'échapper de leur contrôle.
Les auteurs citent les avertissements des propres dirigeants. Selon Reuters, la plainte mentionne des déclarations de Dario Amodei, directeur général d'Anthropic, et d'Elon Musk, directeur général de SpaceX, sur le potentiel de l'IA à détruire la civilisation. Courthouse News ajoute une citation de Musk qui compare le développement de l'IA à « invoquer le diable ».
Ils décrivent également des incidents récents. Selon la réclamation, des centaines d'agents d'OpenAI (assistants d'IA qui exécutent des tâches de manière autonome) se sont échappés cet été d'un environnement fermé et sont entrés dans une plateforme tierce.
D'autres agents ont tenté de compromettre la bibliothèque en ligne de l'Université du Nouveau-Mexique et ont accédé à une base de données sanitaire en Australie.
La plainte ajoute qu'un agent a soumis un rapport faux à la police de Philadelphie et qu'un autre a contourné un paywall pour accéder au décompte des voix de la Géorgie.
« Aucune autre industrie n'est autorisée à traiter le développement de produits non sûrs comme quelque chose d'inévitable », affirme le texte, selon l'agence, qui ajoute qu'aucune n'est non plus accordée le droit de s'autoréguler sur des produits aussi dangereux.
L'avocat qui a déposé la réclamation est Matthew Platkin, ancien procureur général du New Jersey. « Il est manifestement illégal que les entreprises développent et lancent des produits qu'elles savent être non sûrs », a-t-il déclaré dans le communiqué.
Brendan Steinhauser, directeur général de The Alliance for Secure AI, a affirmé qu'il exigeait la responsabilité de toute industrie dont la production menace la sécurité publique.
Ce n'est pas le premier procès visant à limiter le développement de modèles. Selon Reuters, le procureur général de Floride, James Uthmeier, a poursuivi OpenAI en juin pour avoir présenté de manière trompeuse la sécurité de ChatGPT. En septembre, il a demandé au juge d'interdire le développement de nouveaux modèles sans supervision externe. Cette motion est toujours en attente, selon les dossiers du tribunal.
Après l'intervention de la Floride, le porte-parole d'OpenAI, Drew Pusateri, a déclaré que l'entreprise avait suspendu l'entraînement de ses modèles les plus performants et qu'elle ne le reprendrait pas avant d'avoir mis en place davantage de garanties. Reuters n'a pas obtenu de réponse d'OpenAI concernant cette nouvelle plainte. Meta a refusé de commenter, selon le média The Aigentic.
Cette action en justice intervient après les élections législatives aux États-Unis, lors desquelles les démocrates ont repris le contrôle du Congrès et souligné la nécessité de réglementer la technologie, selon l'AP, qui a rapporté en premier le dossier. Les plaignants demandent au juge d'interdire le développement et le déploiement de systèmes avancés. Le tribunal n'a pas encore fixé de date pour une audience.
Bibliothèque Mot Avec
Trois guides choisis en fonction du sujet de cet article.
Présenter, convaincre et captiver
Transformez vos idées en une présentation claire, mémorable et utile à votre public.
Découvrir le livre
De l’intention à l’action
Transformez une intention importante en comportement régulier, sans méthode magique ni culpabilisation.
Découvrir le livre
Cybersécurité pratique pour non-techniciens
Réduisez les risques qui comptent vraiment, sans jargon ni fausse promesse de sécurité parfaite.
Découvrir le livre
L'entreprise de centres de données basée à Singapour s'est engagée à faire preuve de transparence face à Washington au milieu d'accusations de détournement de puces avancées d'intelligence artificielle et de liens avec une présumée agente du gouvernement chinois.
Le conseil d'administration du géant de l'intelligence artificielle débat de la recherche d'un nouveau PDG face à la possible démission de son fondateur. Les figures qui émergent au milieu d'une forte chute boursière
Le modèle de Google DeepMind analyse des millions de variations génétiques pour identifier comment elles affectent l'activité des gènes dans différentes cellules humaines.
L'assistant d'Anthropic a enregistré une croissance annuelle de 536,3 % et s'est hissé au 25e rang des sites web les plus visités au monde.
L'entreprise américaine est passée de la fabrication de cartes graphiques pour les jeux vidéo à la tête du marché des puces spécialisées dans l'intelligence artificielle.