Neue KI-Schwachstelle HalluSquatting ermöglicht Code-Injektionsangriffe
Forscher haben eine neue KI-Schwachstelle namens HalluSquatting aufgedeckt, die die Tendenz von Sprachmodellen ausnutzt, falsche Code-Repository-Adressen zu 'halluzinieren'.
Forscher der Universität Tel Aviv, des Technion und von Intuit haben eine neue Schwachstelle in künstlicher Intelligenz (KI) entdeckt, die als HalluSquatting bezeichnet wird. Diese Schwachstelle zielt darauf ab, wie KI-Modelle mit externen Werkzeugen und Repositories interagieren, indem sie sogenannte KI-'Halluzinationen' ausnutzt.
Die Schwachstelle ermöglicht es KI-Agenten, plausibel erscheinende, aber falsche Adressen für Code-Repositories zu generieren. Wenn eine KI angewiesen wird, ein Werkzeug oder Skript zu verwenden, und sie auf einen unbekannten oder neu erstellten Repository-Namen stößt, kann sie eine korrekt aussehende URL erfinden, die stattdessen auf eine bösartige Version verweist. Dies kann selbst dann geschehen, wenn die KI eine Websuche durchführt, und sie potenziell zu einem irreführenden Link leitet.
Eine erfolgreiche Ausnutzung könnte zur Ausführung von bösartigem Code auf dem System eines Benutzers führen. Mögliche Folgen sind die Einrichtung von Reverse Shells, der Diebstahl von Daten und Anmeldeinformationen, die Installation weiterer Malware oder Kryptowährungs-Mining.
Studien zeigen, dass die Rate dieser Adress-'Halluzinationen' bei neueren Code-Repositories hoch sein kann und bis zu 85 % erreicht. Die Erfolgsquote von Angriffen variiert je nach verwendetem KI-Agenten; einige, wie OpenClaw, weisen Erfolgsquoten von fast 80-100 % auf, während andere wie Gemini CLI und Copilot Erfolgsquoten zwischen 20-35 % berichten.