La Commission fédérale du commerce des États-Unis (FTC) a lancé une enquête sur OpenAI, Anthropic et d'autres développeurs afin de déterminer si leurs outils d'intelligence artificielle exposent les consommateurs à des dommages ou violent les normes contre les pratiques déloyales et trompeuses prévues par les lois fédérales.
Parmi les autres comportements susceptibles de violer ces législations figurent l'utilisation abusive de données personnelles et les affirmations erronées sur les capacités des produits, a précisé The New York Times.
L'enquête prévoit l'envoi de requêtes formelles d'information et la demande de déclarations de dirigeants des sociétés, ainsi que du groupe de recherche à but non lucratif METR, auquel OpenAI et Anthropic ont fait appel pour réaliser des évaluations indépendantes d'incidents récents, selon la déclaration d'un haut fonctionnaire de la FTC à Reuters.
Cette enquête constitue la première action officielle d'application de la loi aux États-Unis centrée sur des agents d'IA hors de contrôle. Le média The New York Post a été le premier à en faire état.
Le lancement de l'enquête coïncide avec des épisodes au cours desquels des agents d'IA développés par OpenAI et Anthropic ont quitté leurs environnements de test, ont mené des cyberattaques et ont même interféré avec des entreprises et des sites gouvernementaux.
Dans le cas d'OpenAI, ses systèmes ont examiné les vulnérabilités de la plateforme open source Hugging Face avant d'exécuter une attaque à grande échelle.
Une source au fait de l'enquête a indiqué à The New York Times que l'organisme a commencé à prendre des mesures préliminaires avant que la société ne révèle l'incident en juillet.
Par ailleurs, le président de la FTC, Andrew Ferguson, avait déjà exprimé des inquiétudes concernant les entreprises avant l'attaque sur Hugging Face. Cependant, l'incident a accru l'urgence, selon une source interrogée par Reuters.
Dans une interview accordée à Reuters le 25 septembre, Ferguson a soutenu que les développeurs qui ordonnent des tests de cybersécurité à des agents et qui en résultent des intrusions devraient répondre des dommages causés.
Il a également plaidé pour que les États-Unis appliquent d'abord les lois existantes avant de créer des normes spécifiques pour réguler l'IA.
Selon Reuters, alors que la FTC ouvrait son enquête, Donald Trump a minimisé à plusieurs reprises les inquiétudes entourant l'intelligence artificielle et a soutenu que le gouvernement dispose déjà de lois pour responsabiliser les entreprises du secteur quant aux dommages potentiels qu'elles pourraient causer.
Le mardi, le dirigeant s'est réuni avec des dirigeants du secteur, qui ont accepté d'établir des normes volontaires de sécurité concernant les cyberattaques et la création d'armes chimiques. Parallèlement, ils ont convenu d'utiliser désormais le terme « superintelligence » pour désigner l'IA, a rapporté The New York Times.
L'accord, diffusé par Trump sur Truth Social, prévoit quatre niveaux de contrôles et d'audits, ainsi que des réunions périodiques pour fixer des normes et de bonnes pratiques, a indiqué CBS News.
Le premier niveau exige des contrôles internes solides pour surveiller les capacités et l'alignement des systèmes pendant leur développement et leur utilisation, dans des domaines tels que la cybersécurité, la biosécurité et les menaces chimiques.
Le deuxième niveau prévoit la création d'une équipe interne, chargée de vérifier que les contrôles, la supervision et les mécanismes de détection fonctionnent comme ils ont été conçus.
En troisième lieu, les entreprises devront faire appel à un auditeur ou évaluateur externe et indépendant. Sa fonction sera de réaliser des révisions sur l'efficacité des contrôles, du suivi et des systèmes de détection mis en place par chaque société.
Le quatrième niveau désigne un comité indépendant au sein des conseils d'administration pour recevoir les rapports des équipes internes, des auditeurs et des évaluateurs externes, et vérifier que les problèmes détectés soient corrigés.
Ont signé, entre autres, Elon Musk, de SpaceX ; Mark Zuckerberg, de Meta ; Dario Amodei, d'Anthropic ; Jensen Huang, de Nvidia ; Greg Brockman, d'OpenAI ; et Sundar Pichai, de Google.
Bibliothèque Mot Avec
Trois guides choisis en fonction du sujet de cet article.
Cybersécurité pratique pour non-techniciens
Réduisez les risques qui comptent vraiment, sans jargon ni fausse promesse de sécurité parfaite.
Découvrir le livre
Trouver un emploi à l’ère de l’IA
Utilisez les nouveaux outils sans perdre votre voix, votre crédibilité ni le contrôle de vos données.
Découvrir le livre
Négocier sans perdre la relation
Défendez vos intérêts avec fermeté sans transformer chaque désaccord en affrontement.
Découvrir le livre
Après avoir signé un accord de sécurité avec Donald Trump et les dirigeants d'OpenAI, Google et Nvidia, le PDG de Tesla a détaillé comment le marché du travail évoluera face à l'essor de l'intelligence artificielle.
Le montant dépasserait la capitalisation boursière d'Anthropic et intervient après que Sam Altman ait exclu une introduction en bourse cette année.
En passant par le changement d'image ou en créant des CV, les candidats réussissent à passer les entretiens et à obtenir des emplois.
Lors de la conférence des développeurs à San Francisco, l'entrepreneur a défendu un modèle technologique qui élargisse les capacités humaines et ne se limite pas à remplacer des tâches.
La plateforme détectera lorsqu'un service tiers peut résoudre une requête et permettra de l'activer depuis le chat, sans ouvrir une autre fenêtre sur l'appareil.