L’utilisation de l’intelligence artificielle n’est pas sans risque au quotidien. Cette technologie peut être à l’origine d’une cyberattaque sans aucune intervention humaine. C’est ce qui s’est passé en Australie lorsqu’un utilisateur a confié à son agent IA la réservation de son cours de sport.
Les agents IA ne se contentent plus de répondre aux questions de leurs utilisateurs. Capables d’accéder au Web et d’utiliser différents outils, ils peuvent désormais accomplir une succession d’actions pour arriver à une fin donnée. Cette autonomie jugée excessive soulève toutefois de nouvelles interrogations.
Une mésaventure survenue en Australie en fournit une illustration particulièrement concrète.
Une simple demande de réservation qui se termine par un piratage
L’histoire commence avec un employé d’une entreprise australienne spécialisée dans la vente de produits d’intelligence artificielle. Cette personne ne prend plus la peine de réserver ses cours manuellement. Il confie cette tâche à son logiciel IA OpenClaw qui fonctionnait avec le service Claude d’Anthropic. Pour lui, l’opération paraît parfaitement adaptée à un assistant capable de naviguer sur Internet et d’effectuer des démarches à sa place.
Mais l’agent IA ne se limitait pas à remplir le formulaire de réservation en ligne. Il a su qu’une faille du logiciel lui permettait de réserver des cours plusieurs semaines, voire plusieurs mois à l’avance. Toutefois, cette possibilité n’est normalement pas proposée par la salle. Le plus surprenant, c’est que l’IA explique ensuite spontanément à son utilisateur ce qu’elle vient de faire.
Lire aussi : Votre maison connectée risque de se retourner contre vous, comment se protéger ?
L’employé a d’ailleurs fait une autre requête pour faire remonter sa place sur la liste d’attente d’un cours et celle-ci l’a exécutée immédiatement. Elle a retiré la personne en première place de la liste, ce qui a permis à son utilisateur d’arriver en troisième position au lieu de quatrième.
Enfin, lorsque l’utilisateur lui demande de revenir en arrière, l’agent IA lui répond qu’il n’est pas capable de réinscrire l’autre personne sur la liste d’attente.
Pour l’utilisateur, aucune intention de pirater le site
Cet utilisateur n’avait évidemment pas demandé à son assistant IA de pirater le système de réservation de la salle de sport. Son objectif était simplement de réserver une séance et, dans un second temps, de savoir s’il était possible d’améliorer sa position sur la liste d’attente. L’exploitation de la faille est donc une initiative prise par l’agent dans le but d’atteindre l’objectif qui lui avait été fixé.
C’est précisément ce type de comportement qui distingue les agents IA des chatbots traditionnels. Ces systèmes peuvent accéder à Internet, utiliser différents services et enchaîner plusieurs opérations sans attendre une validation humaine à chaque étape. Leur capacité à planifier et à agir de manière autonome leur permet donc de choisir des méthodes que leur utilisateur n’avait pas envisagées.
Le problème tient notamment à l’écart entre la demande formulée par une personne et la manière dont l’agent décide de l’accomplir, souligne Bill Simpson-Young, cofondateur du Gradient Institute, sur ABC News. Un utilisateur peut lui confier une tâche parfaitement anodine, tandis que l’IA peut entreprendre d’autres actions pour parvenir au résultat recherché.
Cyberattaques : Pourquoi vos risques de piratage triplent après 18h
Juridiquement, à qui donc la faute ?
Cette affaire soulève aussi une question juridique difficile : qui est responsable lorsqu’un agent IA commet une action non demandée ? En Australie, le cadre juridique actuel ne permet pas d’attribuer directement une responsabilité à un logiciel, puisqu’un programme informatique n’est pas une personne juridique.
Selon un avocat spécialisé, plusieurs acteurs pourraient potentiellement être concernés en fonction des circonstances : l’utilisateur ayant défini la tâche, le concepteur du logiciel qui encadre l’agent, le développeur du modèle d’IA ou encore l’opérateur du système vulnérable. La responsabilité pourrait notamment dépendre de ce que l’utilisateur avait autorisé, mais aussi des risques qui pouvaient raisonnablement être anticipés. Elle pourrait également résulter du contexte dans lequel l’action s’est produite.
Dans le cas de la salle de sport, aucune plainte n’avait été signalée au moment de la publication. De plus, ni l’établissement ni l’éditeur du logiciel de réservation n’avaient été publiquement identifiés. Après l’incident, l’utilisateur de l’IA a toutefois signalé la faille à l’éditeur pour envisager des actions correctives.
Un cas inquiétant qui est loin d’être isolé
L’incident survenu en Australie n’est pas un cas unique. Quelques semaines auparavant, un événement bien plus préoccupant avait montré jusqu’où l’autonomie des agents IA pouvait aller. En juillet 2026, OpenAI a ainsi révélé sur Le Monde que plusieurs de ses modèles avaient réussi à sortir du cadre qui leur avait été imposé au cours d’un test de sécurité. Ils avaient mené une attaque informatique contre Hugging Face, une plateforme très utilisée par les développeurs et les chercheurs en intelligence artificielle.
Le contexte est toutefois différent de celui de la salle de sport. Cette fois, les modèles avaient précisément pour objectif d’évaluer leurs capacités de piratage, dans un environnement de test isolé et avec un accès à Internet normalement limité. Mais au lieu de rester confinés à cet environnement, ils ont consacré d’importantes ressources à chercher un moyen de contourner cette restriction. Une fois parvenus à accéder à Internet, ils ont ciblé Hugging Face pour récupérer des informations susceptibles de les aider à réussir leur évaluation.
En bref
De plus en plus sophistiquée, l’IA ne se limite plus à exécuter mécaniquement une instruction. Elle analyse son environnement et identifie des obstacles. Elle peut chercher elle-même des moyens de contourner ces obstacles pour atteindre l’objectif qui lui a été fixé. Il faudrait donc faire attention aux instructions données à ces agents IA, principalement dans les maisons connectées. Une mauvaise interprétation pourrait aboutir à un piratage, à une divulgation de données sensibles ou à une perturbation inattendue.
