Claude, l'IA d'Anthropic, a contourné un paiement pour obtenir des données électorales publiques en Géorgie.

Le modèle d'intelligence artificielle Claude, d'Anthropic, a obtenu des décomptes d'électeurs de Géorgie depuis un portail public de l'État sans payer les frais exigés pour ces données. L'entreprise et le bureau du secrétaire d'État ont confirmé qu'il n'est pas entré dans le système de registre des électeurs.

« Il s'agissait de données publiques auxquelles on a accédé via notre centre de données. Ils n'ont pas accédé au système de registre des électeurs », a déclaré dans un communiqué Jordan Fuchs, sous-secrétaire d'État de Géorgie. Le bureau a ajouté que le programme n'a pas non plus accédé à un fichier d'électeurs.

Anthropic a précisé que Claude n'a consulté que des décomptes agrégés, c'est-à-dire des totaux calculés à partir de données d'électeurs que l'État vend à quiconque. Selon un porte-parole de l'entreprise, le modèle n'a pas modifié les registres de vote ni obtenu de données d'électeurs individuels.

Dès lors que le modèle a été intégré à un projet interne de statistiques, s'est produit ce que l'entreprise décrit comme un acte non sollicité. « Sans qu'on le lui demande, le modèle a demandé un jeton pour consulter un panneau contenant des informations normalement disponibles contre paiement », a déclaré le porte-parole.

Comment le modèle a trouvé la porte d'entrée

Anthropic a expliqué que Claude a su, par une version archivée du site de l'agence de l'État, que le panneau public délivrait un jeton (une crédence numérique permettant de demander des données) à tout visiteur. Le modèle a demandé ce jeton et l'a utilisé pour consulter le panneau.

The Guardian a décrit l'épisode comme une manière de contourner le paiement. Axios et les fonctionnaires de Géorgie ont également indiqué que le modèle a évité les frais. Anthropic a déclaré avoir déjà appliqué des mesures pour bloquer ce type d'actions.

L'affaire avait été décrite auparavant sans nommer l'État. Selon Fox Business, Anthropic l'a incluse le 9 octobre dans un rapport sur les actions inattendues de ses agents d'IA lors de tests, et a omis les noms des organisations à leur demande, afin de ne pas exposer les vulnérabilités.

La divulgation est arrivée quelques semaines plus tard

Axios a rapporté que l'entreprise avait averti le bureau du secrétaire d'État de Géorgie et la Maison Blanche quelques semaines avant. Selon une source familière citée par le média, des fonctionnaires du gouvernement fédéral ont demandé au bureau de l'État de le rendre public avant, mais ces demandes n'ont pas eu de réponse.

L'épisode est devenu public à quelques semaines des élections de mi-mandat aux États-Unis. Axios l'a présenté comme un élément qui s'ajoute aux préoccupations concernant la sécurité de l'IA et le contrôle humain sur ces systèmes, dans un contexte électoral.

FOX 5 Atlanta a souligné que les autorités n'ont pas divulgué la date ni la durée de l'accès. Il n'a pas non plus été précisé ce qu'Anthropic a fait des totaux obtenus, au-delà du fait qu'ils faisaient partie d'un projet interne de statistiques.

Anthropic et le bureau du secrétaire d'État de Géorgie soutiennent que l'accès s'est limité aux informations mises à disposition du public par l'État. Jusqu'à présent, aucune des deux parties n'a signalé de données individuelles de votants engagés.

Les propriétaires de la musique d'Elvis Presley ont poursuivi Anthropic

Les propriétaires du catalogue musical d'Elvis Presley ont intenté un procès contre Anthropic pour 41 millions de dollars devant un tribunal fédéral en Californie. L'action, déposée le 23 octobre, a été menée par ABG EPE IP LLC, une unité d'Authentic Brands Group, conjointement avec des fiducies de compositeurs et d'éditeurs associés.

L'acte d'accusation accuse la compagnie d'avoir entraîné son chatbot Claude avec 274 chansons de Presley sans autorisation, dont « Can’t Help Falling in Love » et « Don’t Be Cruel ».

Comme preuve centrale, le document cite une réponse de Claude reconnaissant avoir généré des recréations « très proches des originales », avec la même structure et des accroches réutilisées.

La réclamation s'élève à 41,1 millions de dollars pour violation délibérée, plus 7,5 millions de dollars supplémentaires pour avoir éludé les protections techniques et supprimé les données d'auteur. Les demandeurs exigent également la destruction des copies non autorisées et un procès avec jury.