Amazon a bloqué Muse, l'IA de Meta capable d'effectuer des achats en ligne sans supervision humaine.

Amazon bloqueó l'accès de Muse, le nouvel agent d'intelligence artificielle de Meta, à sa plateforme de commerce électronique après avoir déterminé que le système pouvait effectuer des achats et accéder aux informations des comptes sans l'autorisation de la compagnie.

Amazon soutient que Meta n'a jamais demandé la permission pour que Muse utilise son site web. La compagnie remet également en question le fait que l'agent ne s'identifie pas pendant sa navigation sur Amazon et affirme qu'il peut accéder aux pages des comptes et aux historiques de commandes lorsque l'utilisateur le lui demande.

Depuis dimanche soir, ceux qui tentaient d'utiliser Muse pour acheter sur Amazon trouvaient un message avertissant que la poursuite de l'accès par un agent d'IA non autorisé enfreignait les conditions d'utilisation de la plateforme.

Amazon remet en question le fonctionnement de Muse

L'argument principal d'Amazon est que Muse opère comme un tiers qui accède à sa plateforme sans que l'entreprise n'ait accepté cette interaction. Selon la compagnie, cela peut générer des risques liés à la confidentialité, à la sécurité et à la gestion des informations confidentielles.

Amazon a également affirmé que Muse apparemment capture et stocke les identifiants fournis par les utilisateurs. Meta, cependant, soutient que l'agent ne peut pas voir les mots de passe ni les méthodes de paiement. L'entreprise assure que ces identifiants sont stockés de manière sécurisée pour que Muse puisse les utiliser sans y accéder directement.

Le problème est lié à la façon dont Meta a conçu l'agent. Muse peut se connecter à des services disposant d'une API publique en utilisant les identifiants fournis par l'utilisateur. Lorsqu'un service ne dispose pas d'une API, Meta explique que Muse peut l'utiliser via un navigateur, de manière similaire à ce qu'ferait une personne.

Muse peut effectuer des achats et d'autres tâches

Meta a présenté Muse le 8 septembre comme un agent personnel capable de compléter des tâches en plusieurs étapes. Contrairement à un chatbot traditionnel, le système peut interagir avec des services de messagerie électronique, des calendriers, des restaurants, des paiements et des plateformes de shopping.

L'agent est disponible gratuitement, avec des options d'abonnement, et peut être utilisé sur iOS, Android, WhatsApp et depuis le site web de Muse.

Meta affirme que Muse fonctionne au sein d'une machine virtuelle sécurisée et dispose de son propre navigateur. De plus, le système consulte l'utilisateur avant d'effectuer des actions considérées comme délicates, comme envoyer un e-mail ou effectuer un achat. Un agent indépendant dénommé Sentinel doit approuver tout ce que Muse envoie sur internet.

Malgré ces mesures, Amazon considère que le fait que Muse puisse naviguer sur sa plateforme sans s'identifier pose un problème différent : le site ne peut pas facilement distinguer entre une personne et un agent automatisé agissant en son nom.

Le conflit survient après d'autres affrontements

La dispute avec Meta fait partie d'une stratégie plus large d'Amazon pour limiter l'accès des agents externes à sa plateforme. Au cours de la dernière année, la société a également pris des mesures contre les agents d'achat développés par d'autres entreprises.

L'un des cas les plus importants implique Perplexity et son navigateur Comet. Amazon a initialement obtenu une ordonnance judiciaire préliminaire, mais par la suite, un tribunal d'appel américain a déterminé qu'en vertu de la législation fédérale contre l'accès non autorisé aux systèmes informatiques, c'était l'utilisateur et non nécessairement l'entreprise d'IA qui accédait aux ordinateurs d'Amazon.

Le verdict a laissé ouverte, néanmoins, la possibilité qu'Amazon utilise des arguments contractuels et liés à ses conditions de service. C'est précisément ce langage qui apparaît désormais dans le message affiché aux utilisateurs de Muse.

Amazon et Meta sont également partenaires commerciaux

L'affrontement est particulièrement significatif car Amazon et Meta entretiennent des relations commerciales. Les utilisateurs peuvent acheter des produits Amazon depuis Facebook et Instagram depuis 2023, tandis que Meta maintient également un accord avec Amazon pour utiliser ses puces Graviton dans certaines charges de travail d'intelligence artificielle.

Pour Amazon, en outre, le contrôle sur sa plateforme a une dimension économique importante. La société a obtenu plus de 68 milliards de dollars de revenus publicitaires au cours de la dernière année, un secteur étroitement lié au trafic des utilisateurs et à l'exposition des produits sponsorisés.

Amazon affirme qu'elle discute directement avec Meta et n'a pas confirmé si elle entreprendrait des actions légales.

La course pour contrôler les achats par IA

Muse est rapidement devenu l'un des nouveaux exemples d'agents capables d'exécuter des tâches sur Internet. Une semaine après son lancement, il est arrivé en première position parmi les applications gratuites de l'App Store américaine, même devant ChatGPT.

Ses premiers utilisateurs ont utilisé l'agent pour des tâches telles que la recherche de réductions, la modification de polices d'assurance et le remplissage de paniers d'achat.

Amazon développe également ses propres systèmes d'achat assisté. En mai, il a lancé Alexa for Shopping et dispose de Buy for Me, une fonction capable de rechercher des produits sur des sites externes. La différence, selon Amazon, est que son système s'identifie auprès des marques et permet à celles-ci de décider si elles souhaitent participer.