Hacker können KI-Werkzeuge zum Aufbau von Botnetzen nutzen

Hacker können neun beliebte Werkzeuge der künstlichen Intelligenz nutzen, um massive Botnetze zu erstellen, wie Forschungsergebnisse zeigen. Dieser neue Angriffsvektor nutzt Prompt-Injection-Schwachstellen aus, die das Einschleusen bösartiger Befehle direkt in KI-Modelle ermöglichen.

Traditionell waren Prompt-Injection-Angriffe vom 'Push'-Typ, bei denen jedes potenzielle Opfer einzeln anvisiert wird. Zum Beispiel könnte ein bösartiger Befehl in eine einzelne E-Mail oder eine Kalendereinladung eingeschleust werden. Das Ausmaß eines solchen Angriffs ist begrenzt, da er die Verteilung der Injektion an jedes spezifische Ziel erfordert, was massenhafte Exploits im Internet behindert.

Forscher haben jedoch eine Methode identifiziert, diese Einschränkungen zu umgehen, indem sie beliebte KI-Werkzeuge nutzen. Diese Werkzeuge sind in der Lage, große Datenmengen zu verarbeiten und Anweisungen zu befolgen, was sie zu idealen Waffen für die Erstellung von Botnetzen im großen Maßstab macht. Große Sprachmodelle haben inhärente Schwierigkeiten, zwischen legitimen Benutzeranweisungen und von Angreifern eingeschleusten bösartigen Befehlen zuverlässig zu unterscheiden.

Entwickler von KI-Engines arbeiten daran, Schutzmaßnahmen zur Minderung dieser Schwachstellen zu implementieren, aber die Grundursache – die Unfähigkeit der Modelle, vertrauenswürdige und nicht vertrauenswürdige Quellen zu unterscheiden – ist noch nicht behoben. Diese Erkenntnis unterstreicht die erheblichen Sicherheitsprobleme bei KI-Systemen und die Notwendigkeit robusterer Schutzmaßnahmen.