Google, OpenAI et Anthropic progressent dans la création d'un organisme privé destiné à surveiller la sécurité de leurs modèles d'intelligence artificielle les plus avancés, selon le rapport du média The Information. Cette entité s'appellerait Standards Authority for Frontier AI (SAFA) et vise un lancement à la fin de 2026 ou au début de 2027.
SAFA soutiendrait des tests de sécurité réalisés par des tiers avant le lancement de chaque modèle, fixerait des règles pour signaler les incidents de sécurité et définirait des normes pour certifier les auditeurs externes, selon les plans cités par TechRepublic et GovInfoSecurity.
L'idée est née d'une proposition publiée le 14 juillet dans un essai par Demis Hassabis, cofondateur de Google DeepMind et directeur scientifique d'Alphabet. Hassabis a proposé un organisme inspiré de la FINRA, le régulateur qui supervise les courtiers en valeurs mobilières à Wall Street selon un schéma mixte entre l'industrie et l'État.
Le plan initial des trois entreprises était différent, car elles cherchaient un partenariat public-privé avec une supervision fédérale. Cette voie a été freinée après qu'un projet de décret exécutif de la Maison Blanche ait été mis en pause, selon GovInfoSecurity.
Le gouvernement de Donald Trump a demandé aux entreprises d'atteindre d'abord un consensus au sein de l'industrie avant de se joindre. Ce tournant a laissé SAFA comme un schéma de pure autorégulation, sans intervention directe des agences fédérales.
Chris Lehane, directeur des affaires mondiales d'OpenAI, a confirmé mi-septembre que son entreprise menait des discussions depuis plusieurs semaines avec Anthropic et Google DeepMind sur la création conjointe d'un organisme de normes de sécurité.
Ce n'est pas la première tentative du secteur. En 2023, OpenAI, Google, Microsoft et Anthropic avaient déjà fondé le Frontier Model Forum, un forum qui promettait une recherche conjointe sur la sécurité mais qui, selon Winzheng, a obtenu des avancées limitées en pratique.
Les trois entreprises se sont rapprochées de Sriram Krishnan, ancien associé général de la firme de capital-risque a16z et ancien conseiller en intelligence artificielle de la Maison Blanche, pour occuper la direction exécutive de SAFA.
Elles évaluent également Arati Prabhakar, ancienne directrice du Bureau de la politique scientifique et technologique de la Maison Blanche, pour ce même poste, selon GovInfoSecurity.
Pour présider le conseil d'administration, sont évoqués l'ancienne secrétaire d'État des États-Unis Condoleezza Rice et l'entrepreneur et investisseur David Friedberg. En tant que conseillers scientifiques, les entreprises ont sondé Beth Barnes, fondatrice et directrice du groupe de recherche METR, et Paul Christiano, conseiller du Centre des normes et de l'innovation en IA du Département du Commerce et nouveau membre du conseil d'administration de la fondation d'OpenAI.
La conception même de l'organisme suscite des objections. Si Google, OpenAI et Anthropic sont à la fois ceux qui rédigent les règles et ceux qui seront évalués par elles, l'indépendance du schéma est mise en doute, selon l'analyse de Winzheng.
Un autre point ouvert est de savoir si SAFA inclura dès le départ des laboratoires de code ouvert et des compagnies plus petites, ou si ses standards finiront par fixer une barre que seuls les trois fondateurs géants peuvent atteindre.
Le contexte politique accompagne la demande. Le 23 septembre, les directeurs généraux d'OpenAI et Anthropic, Sam Altman et Dario Amodei, se sont exprimés devant le Conseil de sécurité de l'ONU sur les risques de l'intelligence artificielle, lors de la première session de cet organisme dédiée spécifiquement au sujet.
SAFA n'a encore ni statut légal ni mécanismes de conformité définis, et son lancement formel est toujours prévu pour la fin de cette année ou le début de 2027.
Bibliothèque Mot Avec
Trois guides choisis en fonction du sujet de cet article.
Négocier sans perdre la relation
Défendez vos intérêts avec fermeté sans transformer chaque désaccord en affrontement.
Découvrir le livre
Cybersécurité pratique pour non-techniciens
Réduisez les risques qui comptent vraiment, sans jargon ni fausse promesse de sécurité parfaite.
Découvrir le livre
Trouver un emploi à l’ère de l’IA
Utilisez les nouveaux outils sans perdre votre voix, votre crédibilité ni le contrôle de vos données.
Découvrir le livre
Le frein automatique a défailli et une personne a dû intervenir manuellement. L'entreprise elle-même définira quand l'entraînement reprendra.
Le 29,7 % des personnes âgées de 15 à 64 ans ont utilisé ces outils entre avril et juin, une proportion supérieure à la moyenne du Nord global, qui s'élevait à 28,8 % durant la même période.
Juan Corvalán, directeur du Laboratoire d'Innovation et d'Intelligence Artificielle de l'UBA, a souligné le potentiel de l'IA pour améliorer la santé, accélérer les tâches routinières et augmenter la productivité, tout en mettant en avant la nécessité de préserver le contrôle humain sur la technologie.
Parmi les éléments découverts figurent des conversations privées, des plaques d'immatriculation et des données relatives à un consulat africain.
L'écrivain argentin qui réside à Miami depuis 1993 vient de publier « La charge de la créativité », un roman où il transpose le conflit entre humains et êtres artificiels dans le domaine de la spiritualité, de l'art et de la responsabilité morale.