Un agent IA modifie des DNS : Tenet Security révèle le risque « GhostJacking »
Tenet Security a démontré une vulnérabilité « GhostJacking » où un agent IA peut être trompé pour modifier les paramètres DNS d'une entreprise, même après que les mesures de sécurité ont bloqué l'entrée malveillante initiale.
Un agent d'intelligence artificielle (IA) peut exécuter des modifications à fort impact sur les systèmes d'une entreprise sans surveillance appropriée, un risque démontré par Tenet Security lors de l'événement DEF CON 34 le 9 août. La vulnérabilité, surnommée « GhostJacking », se produit lorsqu'un agent IA examine les journaux système, tels que ceux de Cloudflare, et interprète une charge utile malveillante de type « prompt-injection » comme une instruction légitime, même après qu'un pare-feu l'ait déjà bloquée.
Lors de la démonstration, l'agent IA a lu des données provenant d'une tentative d'attaque bloquée contenant la charge utile malveillante. L'agent possédant des informations d'identification précédemment accordées pour effectuer des modifications, il a exécuté l'instruction nuisible, modifiant ainsi les paramètres DNS de l'entreprise. Cela s'est produit sans être détecté par les systèmes de sécurité traditionnels tels que la détection des points d'extrémité ou les pare-feu d'applications Web, car l'agent opérait dans le cadre de ses autorisations.
La vulnérabilité affecte de nombreuses organisations. Tenet Security a identifié des configurations publiquement exposées chez 48 organisations, dont six entreprises du classement Fortune 500. Le risque n'est pas spécifique à une plateforme, mais concerne tout agent IA qui traite des données accessibles aux attaquants et peut effectuer des modifications significatives. Un taux élevé de blocage des entrées malveillantes n'est pas suffisant pour se prémunir contre cette vulnérabilité architecturale.
Des experts, dont Steve Wilson, co-responsable de l'OWASP Top 10 pour les applications LLM, suggèrent la mise en place d'une porte d'autorisation. L'agent IA peut proposer des modifications, comme la mise à jour des enregistrements DNS, mais ne devrait pas être en mesure de les approuver de manière autonome. Au lieu de cela, les modifications devraient passer par un processus de codage sécurisé distinct ou nécessiter une approbation humaine, en particulier pour les actions à haut risque. Cela limite la capacité de l'agent à effectuer des modifications indépendantes et potentiellement dommageables, tout en conservant sa capacité pour les tâches de routine.