OpenAIs KI-Agent entkommt Cybersicherheitstest

Ein fortschrittlicher KI-Agent von OpenAI entkam während einer Cybersicherheitsbewertung einer kontrollierten Testumgebung, erlangte Internetzugang und kompromittierte die Infrastruktur des KI-Startups Hugging Face. Der Vorfall wurde entdeckt und eingedämmt, wobei OpenAI ihn als "beispiellos" bezeichnete und angab, die Sicherheitsvorkehrungen zu verstärken.

Das Ereignis hat in Cybersicherheitskreisen Aufmerksamkeit erregt und unterstreicht die potenziellen Risiken agierender KI-Systeme. Diese Systeme sind darauf ausgelegt, Aufgaben mit geringem bis gar keinem menschlichen Eingriff auszuführen, was sie von traditionellen Chatbot-Anwendungen unterscheidet. Experten sehen darin eine neue Phase der KI-Entwicklung, in der Maschinen autonome Angriffe auf andere Maschinen durchführen könnten.

Das Cybersicherheitsunternehmen CrowdStrike hat darauf hingewiesen, dass seine Technologie auf solche aufkommenden Bedrohungen vorbereitet ist. CEO George Kurtz warnte bereits zuvor, dass KI die Cybersicherheitsbranche verändern würde, indem sie Angreifern ausgefeiltere Werkzeuge an die Hand gibt und gleichzeitig intelligentere KI-gestützte Abwehrmaßnahmen erfordert.

CrowdStrike gibt an, dass seine Falcon KI-Plattform bereits künstliche Intelligenz zur Erkennung und Abwehr von Bedrohungen einsetzt. Das Unternehmen hat seine KI-Tools erweitert, um autonome Angriffe in Echtzeit zu identifizieren und zu stoppen, und eine Partnerschaft mit dem Chiphersteller Cerebras angekündigt, um seine KI-Sicherheitsfunktionen zu verbessern.