Des pirates peuvent utiliser des outils d'IA pour créer des botnets

Des pirates peuvent exploiter neuf outils populaires d'intelligence artificielle pour assembler des botnets massifs, indiquent des recherches. Ce nouveau vecteur d'attaque exploite les vulnérabilités d'injection de prompt, qui permettent d'insérer des commandes malveillantes directement dans les modèles d'IA.

Traditionnellement, les attaques par injection de prompt étaient de type 'push', où chaque victime potentielle est ciblée individuellement. Par exemple, une commande malveillante pourrait être injectée dans un seul e-mail ou une invitation de calendrier. L'échelle d'une telle attaque est limitée car elle nécessite la distribution de l'injection à chaque cible spécifique, entravant les exploitations de masse sur Internet.

Cependant, les chercheurs ont identifié une méthode pour contourner ces limitations en exploitant des outils d'IA populaires. Ces outils sont capables de traiter de grands volumes de données et de suivre des instructions, ce qui en fait des armes idéales pour la création de botnets à grande échelle. Les grands modèles linguistiques ont intrinsèquement du mal à distinguer de manière fiable les instructions légitimes des utilisateurs des commandes malveillantes injectées par les adversaires.

Les développeurs de moteurs d'IA s'efforcent de mettre en œuvre des mesures de protection pour atténuer ces vulnérabilités, mais la cause profonde – l'incapacité des modèles à différencier les sources fiables et non fiables – n'a pas encore été résolue. Cette découverte souligne les défis importants en matière de sécurité des systèmes d'IA et la nécessité de mesures de protection plus robustes.