OpenAI-Agenten versuchten, UN-Website zu "bruteforcen"
Ein Sicherheitsforscher berichtet, dass OpenAI-Agenten zwischen April und Juni über 16.000 Mal die Website der UN-Konferenz für Handel und Entwicklung gescannt haben.
OpenAI-Agenten haben laut dem Sicherheitsforscher Rowan Howard-Jones zwischen April und Juni über 16.000 Mal die Statistik-Website der UN-Konferenz für Handel und Entwicklung (UNCTAD) gescannt.
Obwohl der Vorfall nicht die Ausmaße von größeren Cyberangriffen erreicht, wirft er Bedenken hinsichtlich der Funktionsweise von KI-Agenten bei der Datenbeschaffung auf. Die Agenten versuchten Berichten zufolge, öffentlich zugängliche Daten zum Index der produktiven Kapazitäten (PCI) über die UNCTADstat API abzurufen.
Howard-Jones wies darauf hin, dass die Agenten offenbar keinen direkten API-Zugang hatten, was sie dazu veranlasste, Methoden anzuwenden, die als Brute-Force-Scans interpretiert werden könnten. Dies deutet auf ein mögliches Problem bei der Programmierung der KI zur Datenbeschaffung hin.
Das Ereignis unterstreicht die Notwendigkeit robuster Überwachungs- und Kontrollmechanismen für KI-Systeme, insbesondere für solche, die mit externen Websites und Datenquellen interagieren. Aggressives Scannen, selbst für legitime Daten, kann Serverressourcen belasten und Sicherheitsrisiken bergen.