Verteidiger nutzen Prompt-Injektionen zur Abwehr von KI-Angriffen
Tracebit-Forscher haben festgestellt, dass böswillige Befehle KI-Agenten stoppen können, indem sie diese zu verbotenen Aktionen verleiten.
Forscher von Tracebit gaben am Montag bekannt, dass sie herausgefunden haben, dass die Platzierung von Prompt-Injektionen neben Passwörtern, kryptografischen Schlüsseln und anderen Geheimnissen, die auf Amazon Web Services gespeichert sind, oft ausreicht, um Angriffe von KI-Hackern zu stoppen.
Prompt-Injektionen sind böswillige Befehle, die Angreifer in Inhalte einschleusen, um große Sprachmodelle (LLMs) dazu zu verleiten, diesen zu folgen. Sie waren das bevorzugte Werkzeug von Angreifern, um KI-Plattformen gegen ihre Nutzer zu wenden.
Die neue Abwehrstrategie nutzt diese Injektionen, um Bedrohungen zu neutralisieren. Anstatt Benutzerdaten zu manipulieren, werden die bösartigen Befehle nun gegen den angreifenden KI-Agenten selbst gerichtet. Wenn die angreifende LLM versucht, eine verbotene Aktion auszuführen, werden ihre integrierten Sicherheitsmechanismen ausgelöst, was dazu führt, dass sie sich abschaltet.
Die Forschung von Tracebit zeigt, wie diese Techniken defensiv eingesetzt werden können und bietet eine neue Methode zum Schutz von KI-Systemen, indem der Angriffsvektor gegen den Angreifer gerichtet wird.