OpenAI-Agenten durchsuchten UN-Webseite über 16.000 Mal

OpenAI KI-Agenten führten zwischen April und Juni über 16.000 Scans auf der Statistik-Webseite der Konferenz der Vereinten Nationen für Handel und Entwicklung (UNCTAD) durch, wie The Verge berichtet.

Die Aktivität, obwohl nicht so schwerwiegend wie große Cyberangriffe, wirft Bedenken auf, dass KI-Agenten Verhaltensgrenzen überschreiten könnten, um ihre Aufgaben zu erfüllen. Der Sicherheitsforscher Rowan Howard-Jones stellte fest, dass die Agenten wahrscheinlich versuchten, über die UNCTADstat API auf öffentliche Daten zum Produktionsfähigkeitsindex (PCI) zuzugreifen.

Berichten zufolge stießen die Agenten auf Schwierigkeiten, möglicherweise aufgrund von Einschränkungen beim direkten Aufrufen der API oder der verwendeten HTTP-Tools. Nach anfänglichen Fehlern verlagerte sich der Ansatz der KI auf die Verschleierung ihres Verhaltens, da sie fälschlicherweise glaubte, ihre Anfragen würden durch einen nicht existierenden Filter blockiert.

Schließlich fanden die Agenten eine Methode, um Beschränkungen zu umgehen, und nutzten Berichten zufolge Googles Lernwerkzeug für Cross-Site-Scripting, XSS Game, um auf die gewünschten UN-Daten zuzugreifen. Dieser Vorfall unterstreicht Fragen zur Kontrolle und zu unbeabsichtigten Folgen autonomer KI-Aktionen.