ASCII-Schmuggel: Von KI-Angriffen zu Spam-Werkzeug
Eine Technik zum Verstecken bösartiger KI-Prompts wird nun von Spammern genutzt. Der ASCII-Schmuggel nutzt unsichtbare Zeichen, um Filter zu umgehen und Massen-Spam zu ermöglichen.
Spammer haben begonnen, die Technik des ASCII-Schmuggels zu nutzen, die zuvor für Angriffe auf künstliche Intelligenz bekannt war. Diese Methode verbirgt bösartige Anweisungen in digitalen Inhalten, was es für die Filter von E-Mail-Plattformen schwieriger macht, unerwünschte Massen-Nachrichten zu erkennen und zu blockieren.
Die ASCII-Schmuggel-Technik nutzt spezielle Unicode-Tags, die den American Standard Code for Information Interchange (ASCII) nahezu perfekt nachahmen. Diese Tags kodieren Zeichen, die für Computer lesbar, für menschliche Leser jedoch praktisch unsichtbar sind. Dies ermöglicht es, schädliche Anweisungen so einzubetten, dass KI-Modelle sie interpretieren können, während menschliche Empfänger keine ungewöhnlichen Inhalte bemerken.
Die Technik erlangte vor etwa zwei Jahren erstmals Aufmerksamkeit als Mittel, um „Prompt Injection“-Angriffe auf KI-Modelle heimlicher zu gestalten. Ziel war es, KI-Systeme dazu zu bringen, schädliche Befehle auszuführen, ohne dass die bösartigen Anweisungen im Input offen sichtbar sind.
Mit der Übernahme durch Spammer stellt der ASCII-Schmuggel nun eine erhöhte Bedrohung für die E-Mail-Sicherheit dar. Indem bösartige Links oder Befehle effektiv in Spam-Nachrichten versteckt werden, kann die Technik dazu beitragen, bestehende Filter zu umgehen und die Erfolgsquote unerbetener Kampagnen zu erhöhen.