L’avancée de l'intelligence artificielle élargit les possibilités d'automatisation, mais expose également de nouvelles vulnérabilités dans les systèmes informatiques. L'accès à des informations internes d'Anthropic, qu'une startup en cybersécurité a affirmé avoir obtenues en moins de 12 heures, a remis en lumière les risques d'une technologie capable d'exécuter des tâches, de détecter des défaillances et d'opérer sur des outils externes.
Selon l'explication fournie, l'incident ne consistait pas en une intrusion directe dans Claude, le modèle d'Anthropic, mais dans l'accès à un service externe utilisé par la compagnie. Le cas reflète, selon ses propos, un problème plus large : l'exposition des programmes et des plateformes sur lesquels fonctionnent les entreprises.
« Nous faisons face à des problèmes de cybersécurité dans pratiquement tout le logiciel dont dispose l'humanité », a déclaré Hernández. À son avis, l'intelligence artificielle peut accélérer l'identification des vulnérabilités et faciliter des attaques qui nécessitaient auparavant plus de temps et de connaissances spécialisées.
Contrairement aux assistants qui se limitent à répondre à des requêtes, les agents d'intelligence artificielle peuvent utiliser des outils externes pour exécuter des tâches. Selon les autorisations qu'ils reçoivent, ils peuvent consulter des e-mails, traiter des documents, collecter des informations et interagir avec diverses plateformes.
Cette capacité élargit également les risques lorsqu'un accès à des données sensibles ou à des services financiers leur est accordé. « Le risque dépend de ce que vous lui donnez comme accès », a averti Hernández.
L'expert a souligné que la sécurité dépend, en partie, des autorisations accordées et des actions que chaque système peut effectuer. Par conséquent, l'intégration d'agents autonomes nécessite de limiter leurs facultés et de superviser les opérations qu'ils exécutent.
La confidentialité est un autre point critique. Hernández a expliqué que les modèles n'apprennent pas nécessairement en temps réel à partir de chaque conversation, bien que les données partagées puissent être utilisées pour des entraînements futurs selon les politiques et configurations de chaque service. Avant de saisir des informations confidentielles, il est fondamental de connaître les conditions d'utilisation de la plateforme.
La génération d'images, de voix et de vidéos réalistes pose de nouvelles difficultés pour vérifier les identités et détecter les tromperies. Les deepfakes peuvent être utilisés pour usurper des identités, diffuser de faux contenus ou commettre des fraudes économiques.
Hernández a averti que la qualité de ces productions peut rendre leur identification difficile, même dans des situations qui offraient auparavant de plus grandes garanties d'authenticité, comme une visioconférence professionnelle.
Le problème s’aggrave en raison de la circulation de modèles à code source ouvert, qui peuvent être modifiés et utilisés sans que leurs développeurs contrôlent toutes leurs applications. Bien qu’il existe des outils pour identifier les contenus synthétiques, leur portée dépend de la technologie utilisée et de la possibilité de mettre en œuvre des mécanismes de vérification.
Pour le vulgarisateur, le défi consiste à développer des défenses qui évoluent au même rythme que les outils utilisés pour produire et distribuer ces contenus.
L’autonomie des systèmes soulève également des interrogations quant à leur capacité à interpréter les instructions et à choisir la manière de les exécuter. Hernández a lié ce défi à l’alignement de l’intelligence artificielle : la nécessité que le comportement des modèles reste dans les limites des objectifs et des contraintes établis par les humains.
« Même si nous pouvons définir l’objectif, la manière dont il est résolu n’est pas nécessairement à notre goût », a-t-il expliqué.
Le risque apparaît lorsqu’un système trouve une solution efficace pour atteindre un objectif, mais utilise des procédures que ses développeurs n’avaient pas prévues. Plus son autonomie est grande et plus il dispose d’outils, plus il est important d’évaluer ses décisions et d’anticiper les conséquences possibles.
La difficulté augmente lorsque plusieurs agents interagissent entre eux et coordonnent des tâches. Pour Hernández, ces scénarios renforcent la nécessité d’améliorer les mécanismes d’évaluation et de supervision avant d’élargir les capacités des systèmes.
Le développement de l’intelligence artificielle soulève également une tension entre la vitesse de l’innovation et la nécessité d’établir des contrôles. La concurrence internationale incite les entreprises à lancer des modèles de plus en plus performants, tandis que la préoccupation croît quant à leurs effets possibles sur la sécurité et la société.
Hernández a souligné que le problème est particulièrement complexe dans le cas des modèles à code source ouvert. Une fois distribués, ils peuvent être modifiés et réutilisés sans que leurs créateurs conservent le contrôle sur chaque application.
« La boîte de Pandore est ouverte, il n’y a pas de retour en arrière », a-t-il affirmé.
L’expert a également remis en question l’utilisation du quotient intellectuel comme mesure générale pour évaluer ces systèmes. Selon lui, l’intelligence artificielle peut surpasser les humains dans certaines tâches tout en présentant des limites dans d’autres. Par conséquent, ses performances doivent être analysées en fonction des capacités spécifiques évaluées, plutôt que d’être réduites à une seule mesure.
La discussion ne se limite plus à savoir ce que ces modèles peuvent faire, mais inclut les permissions qu’ils doivent recevoir, la manière dont leurs actions sont supervisées et les mécanismes permettant de prévenir ou de corriger leurs erreurs.
En ce qui concerne le futur immédiat, Hernández a mis en garde contre la pression que l'avancée de l'intelligence artificielle exercera sur la sécurité informatique. « Le pire est à venir », a-t-il affirmé, soulignant que les 18 prochains mois seront particulièrement exigeants pour les défenses face aux nouvelles menaces.
Le défi consistera à tirer parti des possibilités de cette technologie sans sous-estimer ses risques. À mesure que les systèmes gagnent en autonomie et s'intègrent dans davantage de domaines de la vie quotidienne, la sécurité, la supervision et le contrôle de leurs capacités deviennent des conditions centrales pour leur développement.
Bibliothèque Mot Avec
Trois guides choisis en fonction du sujet de cet article.
Cybersécurité pratique pour non-techniciens
Réduisez les risques qui comptent vraiment, sans jargon ni fausse promesse de sécurité parfaite.
Découvrir le livre
Négocier sans perdre la relation
Défendez vos intérêts avec fermeté sans transformer chaque désaccord en affrontement.
Découvrir le livre
De l’intention à l’action
Transformez une intention importante en comportement régulier, sans méthode magique ni culpabilisation.
Découvrir le livre
La victime, âgée de 67 ans, a découvert l'arnaque quelques heures plus tard en comparant les messages qu'elle avait reçus avec ceux envoyés à son mari.
Cette décision affectera les utilisateurs des comptes personnels, professionnels, éducatifs et gouvernementaux.
La mesure s'applique également aux montres avec Wear OS, aux écouteurs et aux systèmes Android Auto synchronisés avec le téléphone.
Selon le cofondateur de Microsoft, le développement de systèmes autonomes pourrait réduire le besoin d'employés dans de nombreux secteurs, altérer le marché du travail et le rôle des personnes dans l'économie mondiale.
L'auteure polonaise a reçu de nombreuses critiques après avoir défendu le potentiel créatif de cette technologie, tout en mettant également en garde contre ses risques et en niant l'avoir utilisée pour rédiger ses œuvres.