Ars Technica: KI-Agenten installierten fremden Code in Unternehmensnetzwerken
Forscher entdeckten, dass über 100 Websites potenziell gefährliche ausführbare Inhalte enthielten, die automatisch von KI-Agenten wie Claude und Codex installiert wurden. Mindestens ein Dutzend Unternehmen, darunter Fortune-500-Unternehmen, führten diesen Proof-of-Concept-Code aus.
Ars Technica berichtet über eine Schwachstelle, bei der Websites unbeabsichtigt KI-Agenten dazu veranlassen, fremden ausführbaren Code in Unternehmensnetzwerken zu installieren. Über 100 Websites enthielten Verweise auf potenziell gefährliche Inhalte, die beim Zugriff durch verschiedene KI-Agenten ausgeführt wurden.
Das Problem liegt in den Dateien llms.txt und llms-full.txt, die Websites zur Bereitstellung maschinenlesbarer Inhaltszusammenfassungen für KI nutzen. Forscher scannten Tausende von Domains und identifizierten 120 Dateien auf verschiedenen Websites, die auf nicht registrierte Code-Pakete oder Domains verwiesen. Durch die Registrierung dieser nicht beanspruchten Namen und das Hosten von Paketen testeten die Forscher die Schwachstelle.
Beim Besuch dieser Websites durch KI-Agenten erhielten die Forscher "Phone-Home"-Antworten von Unternehmensnetzwerken, die die Ausführung bestätigten. Über ein Dutzend Unternehmen, darunter Fortune-500-Konzerne, führten nachweislich den Proof-of-Concept-Code aus, wobei eine Antwort innerhalb einer Stunde einging.
Die als verantwortlich für die Ausführung des Codes identifizierten KI-Agenten sind Anthropic's Claude, OpenAI's Codex und Nous Research's Hermes. Die Unternehmen hinter diesen KI-Agenten haben sich zum Zeitpunkt der Veröffentlichung nicht zu dem Vorfall geäußert. Darüber hinaus wurde mindestens eine falsch konfigurierte Website identifiziert, die alle Besucher, ob Mensch oder KI, direkt zu Live-Malware leitet.