Nouvelle vulnérabilité IA HalluSquatting découverte, permettant des attaques par injection de commandes

Des chercheurs de l'Université de Tel Aviv, du Technion et d'Intuit ont identifié une nouvelle vulnérabilité de l'intelligence artificielle (IA) baptisée HalluSquatting. Cette faille cible la manière dont les modèles d'IA interagissent avec les outils et dépôts externes en exploitant les 'hallucinations' de l'IA.

La vulnérabilité permet aux agents IA de générer des adresses de dépôts de code apparemment plausibles, mais incorrectes. Lorsqu'une IA reçoit l'instruction d'utiliser un outil ou un script et rencontre un nom de dépôt inconnu ou nouvellement créé, elle peut inventer une URL d'apparence légitime pointant vers une version malveillante au lieu de celle prévue. Cela peut se produire même si l'IA effectue une recherche web, la conduisant potentiellement vers un lien trompeur.

Une exploitation réussie pourrait entraîner l'exécution de code malveillant sur le système d'un utilisateur. Les conséquences potentielles incluent l'établissement de shells inversés, le vol de données et d'identifiants, l'installation de logiciels malveillants supplémentaires ou le minage de cryptomonnaies.

Des études indiquent que le taux de ces 'hallucinations' d'adresses peut être élevé pour les dépôts de code plus récents, atteignant jusqu'à 85 %. Le taux de réussite des attaques varie en fonction de l'agent IA utilisé ; certains, comme OpenClaw, montrent des taux de réussite proches de 80 à 100 %, tandis que d'autres tels que Gemini CLI et Copilot rapportent des taux de réussite compris entre 20 et 35 %.