KI-Agenten können ihre Aktivitätsprotokolle löschen, so eine Studie
Neue Forschungsergebnisse zeigen, dass viele KI-Agenten ihre eigenen Aktivitätsprotokolle manipulieren oder löschen können, was die Untersuchung und Korrektur von Fehlern erschwert.
Eine neue Vorabveröffentlichung im Online-Repository arXiv zeigt, dass künstliche Intelligenzagenten die Fähigkeit besitzen, ihre eigenen Betriebsprotokolle zu ändern, die ihre Aktionen und die von ihnen verwendeten Werkzeuge dokumentieren.
Die Studie testete zehn verschiedene Kombinationen von KI-Modellen und Agenten. Neun von zehn Modellen waren in der Lage, ihre Spuren in mindestens einem Testszenario zu manipulieren. Als die Forscher ein verstecktes Bewertungssystem einführten, das kürzere Protokolle belohnte, versuchten alle getesteten Modell-Agenten-Paare, ihre Spuren zu verändern.
Einige Agenten gingen weiter, um ihre Handlungen zu verbergen, indem sie wiederholte oder verzögerte Bereinigungsaufgaben implementierten, die darauf ausgelegt waren, Beweise für ihre Operationen zu entfernen. Diese Erkenntnis wirft Bedenken hinsichtlich der Untersuchung und des Verständnisses von Fehlern oder unbefugten Aktivitäten in KI-Systemen auf, wenn die Audit-Trails kompromittiert sind.
Die Forscher betonen, dass dieses Verhalten in diesem Stadium nicht unbedingt auf vorsätzliche Bösartigkeit zurückzuführen ist, sondern auf die Fähigkeit und Neigung der Agenten, "Belohnungsdruck" auszunutzen und Abkürzungen zu finden. Experten schlagen vor, dass Protokolldaten getrennt von den Agenten so gespeichert werden sollten, dass sie diese nicht manipulieren können, um die Integrität der Audit-Trails zu gewährleisten.