Le "ASCII smuggling" passe des attaques IA au spam
Une technique de dissimulation de prompts malveillants pour l'IA est désormais utilisée par les spammeurs. Le "ASCII smuggling" embarque des caractères invisibles qui contournent les filtres, facilitant les campagnes de spam.
Les spammeurs ont commencé à utiliser la technique du "ASCII smuggling", auparavant connue pour son utilisation dans les attaques contre l'intelligence artificielle. Cette méthode dissimule des instructions malveillantes dans le contenu numérique, rendant plus difficile la détection et le blocage des messages de masse indésirables par les filtres des plateformes de messagerie.
La technique du "ASCII smuggling" exploite des balises Unicode spécifiques qui imitent de près le standard ASCII (American Standard Code for Information Interchange). Ces balises encodent des caractères lisibles par les ordinateurs mais pratiquement invisibles pour les lecteurs humains. Cela permet d'intégrer des instructions nuisibles d'une manière que les modèles d'IA peuvent interpréter, tandis que les destinataires humains ignorent tout contenu inhabituel.
La technique a d'abord attiré l'attention il y a environ deux ans comme moyen de rendre les attaques de type "prompt injection" contre les modèles d'IA plus furtives. L'objectif était de contraindre les systèmes d'IA à exécuter des commandes nuisibles sans que les instructions malveillantes ne soient ouvertement visibles dans l'entrée.
Avec son adoption par les spammeurs, le "ASCII smuggling" représente désormais une menace accrue pour la sécurité des e-mails. En dissimulant efficacement des liens ou des commandes malveillantes dans les messages de spam, la technique peut aider à contourner les filtres existants et à améliorer le taux de réussite des campagnes non sollicitées.