Mark Zuckerberg a ordonné le lancement de l'assistant IA de Meta malgré des failles de sécurité

Mark Zuckerberg, PDG de Meta, a ordonné le lancement de l'assistant d'intelligence artificielle Muse malgré des failles de sécurité détectées lors des tests internes, a rapporté le journal The New York Times. Le système a modifié le mot de passe d'un utilisateur sans autorisation avant sa sortie publique, le 8 septembre.

Les agents d'intelligence artificielle sont des assistants capables d'accomplir des tâches de manière autonome, tels que faire des achats, gérer des mots de passe ou envoyer des messages, sans que l'utilisateur donne chaque instruction étape par étape.

La décision a été prise lors d'une réunion avec Alexandr Wang, directeur de l'intelligence artificielle de l'entreprise, et Nat Friedman, responsable du produit IA, selon trois personnes au courant de la rencontre citées par le Times. Zuckerberg craignait de perdre du terrain face à Instinct, une startup de seulement quatorze employés dont l'assistant commençait à gagner en popularité.

Wang et Friedman connaissaient les failles détectées lors de tests récents, notamment le cas où Muse a modifié le mot de passe d'un utilisateur sans son consentement, selon deux des sources interrogées par le journal. Malgré cela, Meta a présenté Muse au public le 8 septembre, comme l'avait ordonné Zuckerberg.

La course aux assistants personnels d'IA

Meta a investi des milliards de dollars dans sa division d'intelligence artificielle, mais a vu pendant des années des rivaux comme OpenAI et Anthropic la devancer avec des chatbots et des outils de programmation. Dans le domaine des assistants personnels, l'entreprise avait besoin d'une victoire et a fini par privilégier la vitesse par rapport à la prudence.

Instinct, la startup qui a déclenché les alertes au sein de Meta, a clôturé fin septembre un tour de table de 1 milliard de dollars, l'évaluant à 10 milliards de dollars, soit quatre fois plus qu'un mois plus tôt. Sequoia Capital, Benchmark Capital et Coatue ont participé à ce tour de table.

Ce pari a donné à Meta un avantage précoce dans une catégorie qui est devenue le nouveau front de l'industrie de l'intelligence artificielle. D'autres entreprises ont déjà présenté des produits pour concurrencer : trois semaines après Muse, OpenAI a lancé son propre assistant, nommé Dots.

Des épisodes de comportement non autorisé par des agents d'intelligence artificielle ont été enregistrés cette année chez d'autres entreprises du secteur. Quelques semaines plus tôt, Anthropic avait reconnu que l'un de ses systèmes avait envoyé une fausse plainte pour homicide à la police de Philadelphie, et OpenAI avait admis que l'un de ses modèles avait violé la plateforme Hugging Face lors d'un exercice interne.

« Le plus intéressant avec Muse, c'est que Meta a eu l'occasion d'arriver en premier », a déclaré Avi Greengart, analyste chez la société de conseil Techsponential.

Les failles après le lancement

Dès sa sortie, Muse a connu quelques incidents de sécurité supplémentaires. Dans un cas, l'assistant a divulgué l'adresse d'un utilisateur à un vendeur sur Facebook Marketplace sans son consentement, selon le même rapport.

Un porte-parole de Meta a rejeté l'idée que Zuckerberg ait précipité le lancement sous la pression d'Instinct. « Nous sommes fiers de ce travail et, comme nous l'avons déclaré publiquement, nous avons même retardé le déploiement de Muse de plusieurs mois pour nous assurer de le faire correctement », a-t-il affirmé dans un communiqué.

L'entreprise n'a pas précisé le nombre total d'incidents de sécurité enregistrés par Muse ni les modifications apportées à ses contrôles internes après le lancement.

Comment Muse se comporte en termes de téléchargements

Malgré les incidents, la stratégie de Zuckerberg a porté ses fruits. Jusqu'à mercredi dernier, Muse cumulait plus de 6,6 millions de téléchargements et 1,8 million d'utilisateurs actifs par jour, selon les données de la société de mesure d'applications Sensor Tower.

Pour soutenir cet élan, Meta a lancé une campagne publicitaire multimilliardaire qui a placé Jolly, la peluche mascotte de Muse, sur des panneaux d'affichage et dans des publicités télévisées dans plusieurs villes des États-Unis.

« On ne peut pas arrêter Muse », a écrit Wang dans une publication sur les réseaux sociaux le mois dernier, au milieu de l'élan commercial de l'assistant.

L'écart d'échelle entre les deux entreprises reste important : Meta, propriétaire de Facebook et Instagram, est valorisée à plus de 1 500 milliards de dollars, contre 10 milliards de dollars pour Instinct, la startup qui a conduit Zuckerberg à ordonner le lancement anticipé de Muse.