La Commission fédérale du commerce des États-Unis a envoyé des citations civiles à OpenAI et Anthropic pour exiger des documents concernant des incidents de sécurité dans leurs systèmes d’intelligence artificielle, a rapporté Axios et confirmé un porte-parole de l’organisme à CBS News. Les entreprises les ont reçues mercredi.
Selon Axios, les demandes dépassent 50 pages de questions chacune et cherchent des informations sur les incidents enregistrés, les mesures de sécurité internes prises par chaque entreprise et le matériel marketing qui a pu induire les utilisateurs en erreur.
L’organisme prévoit également de citer prochainement des tiers qui ont été la cible d’agents d’intelligence artificielle d’OpenAI et d’Anthropic lors d’essais de sécurité, selon la même source. Il prépare également les témoignages de dirigeants des deux entreprises et de METR, une organisation qui audite la sécurité des modèles d’IA.
Cette enquête formelle s’ajoute à une investigation plus large que la FTC avait annoncée en septembre. L’attention est portée sur une série d’épisodes où les systèmes d’IA des deux entreprises ont piraté des sites web ou ont interagi de manière inattendue avec des organismes gouvernementaux lors de phases de test.
Un agent d’Anthropic a présenté 19 demandes de visa non immigrant sans instruction claire à cet effet, selon Ars Technica. Les agents d’OpenAI, pour leur part, ont interagi avec plusieurs sites gouvernementaux de manière non prévue.
Un point notable pour la FTC est que les deux entreprises ont tardé à notifier ces épisodes. Dans plusieurs cas, selon le site web spécialisé en technologie, elles ont attendu d’avoir résolu le problème pour le communiquer publiquement.
Le président de la FTC, Andrew Ferguson, dirige également la Super Intelligence Force, le groupe de travail créé par le gouvernement de Donald Trump pour surveiller les risques liés à l’intelligence artificielle. L’une des premières ordres de ce groupe exigeait à toute l’industrie de signaler les incidents de sécurité dès leur détection.
OpenAI fait déjà face à des procès qui la lient à des cas de violence, y compris un parricide et le suicide d’un mineur, en plus de plaintes concernant son rôle dans des épisodes de violence scolaire. Cette semaine, huit États des États-Unis ont intenté une action en justice contre l’entreprise pour préjudice aux utilisateurs.
Les districts soutiennent que ChatGPT « renforce les délires, encourage les comportements dangereux et aide les utilisateurs à planifier des actes de violence tels que des fusillades de masse », selon Ars Technica à partir de la plainte.
Ferguson avait anticipé le critère que l’agence pourrait appliquer. Lors d’une interview accordée à Reuters le mois dernier, il a soutenu que les développeurs qui instruisent leurs agents pour des tests de cybersécurité se soldant par des attaques réelles devraient répondre des dommages causés.
La FTC dispose d’une large autorité pour poursuivre les entreprises pour pratiques déloyales ou trompeuses, et l’a déjà utilisée contre des sociétés qui n’avaient pas pris de mesures raisonnables pour protéger les données des consommateurs. Cette même voie pourrait désormais s’appliquer aux développeurs d’IA.
Un porte-parole d’OpenAI a déclaré à Reuters que l’entreprise « s’engage à collaborer de manière constructive avec la FTC » et qu’elle continuera à travailler avec les régulateurs et les responsables politiques pour élever le standard de sécurité.
Anthropic n’a pas répondu immédiatement aux demandes de commentaire de l’agence de presse concernant le rapport d’Axios. L’organisme n’a pas non plus fourni de détails supplémentaires au-delà de la confirmation de l’envoi des citations.
Un sondage de The Associated Press et du centre NORC, cité par CBS News, a révélé que 64 % des adultes aux États-Unis estiment que l’intelligence artificielle progresse trop rapidement. Huit sur dix ont considéré qu’il était extrêmement ou très important que le gouvernement maintienne la technologie sous contrôle humain.
Trump s’est jusqu’à présent opposé à freiner le développement de l’IA et a défendu cette technologie comme vitale pour les intérêts nationaux. La citation des tiers affectés par les agents d’IA n’a pas encore de date confirmée.
Bibliothèque Mot Avec
Trois guides choisis en fonction du sujet de cet article.
Cybersécurité pratique pour non-techniciens
Réduisez les risques qui comptent vraiment, sans jargon ni fausse promesse de sécurité parfaite.
Découvrir le livre
Trouver un emploi à l’ère de l’IA
Utilisez les nouveaux outils sans perdre votre voix, votre crédibilité ni le contrôle de vos données.
Découvrir le livre
De l’intention à l’action
Transformez une intention importante en comportement régulier, sans méthode magique ni culpabilisation.
Découvrir le livre
Lors des réunions du FMI et de la Banque mondiale à Bangkok, Kevin Warsh a affirmé que la nouvelle technologie « changera profondément le comportement de la politique monétaire », car elle aidera les banques centrales à « mieux analyser les données ».
L'accès à ces technologies ne garantit pas leur application effective. Il nécessite une formation continue, la validation des résultats et un accompagnement pour les travailleurs et les entreprises actuelles.
Cette mise à jour intervient des mois après qu'OpenAI ait fermé son propre navigateur, Atlas, et vise à concurrencer de près Gemini.
Le système cherchera à rivaliser avec la conduite assistée de Tesla et Mercedes-Benz, mais aucune des deux entreprises n'a révélé combien cela coûtera.
Florencia Sichel, philosophe, écrivaine et enseignante, propose d'examiner l'incertitude, les conflits au sein des équipes et la pression d'être toujours connectés à travers la logistique quotidienne.