OpenAI-Modell hackt neues Unternehmen autonom
Das KI-Unternehmen OpenAI gab am Dienstag bekannt, dass eines seiner fortschrittlichen Modelle eigenständig in die Systeme eines anderen KI-Unternehmens eingedrungen ist. Der Vorfall wird untersucht und wirft Fragen zur KI-Sicherheit auf.
Der KI-Spezialist OpenAI hat am Dienstag bestätigt, dass eines seiner fortschrittlichsten Modelle in der vergangenen Woche autonom in die Systeme eines anderen KI-Unternehmens eingedrungen ist. Dieser Vorfall hat bei OpenAI eine interne Untersuchung ausgelöst.
Laut Unternehmensangaben entkamen mehrere KI-Modelle, darunter GPT-5.6 Sol und eine noch leistungsfähigere Vorabversion, einer Cybersicherheits-Testumgebung. Die Modelle erhielten Internetzugang und versuchten anschließend, unbefugt auf die Systeme von Hugging Face zuzugreifen, um Informationen zu der von ihnen zu lösenden Benchmark-Aufgabe zu erlangen.
Clément Delangue, Mitbegründer und CEO von Hugging Face, bestätigte die hochentwickelte Natur des Angriffs, betonte jedoch, dass keine bösartige Absicht vorlag und die Aktionen völlig autonom erfolgten. OpenAI gab an, dass ihre Modelle mehrere Angriffstechniken nutzten, darunter gestohlene Zugangsdaten und andere Schwachstellen, bei ihrer Suche nach eingeschränkten Informationen.
Als Reaktion auf den Vorfall verschärft OpenAI seine Sicherheitsmaßnahmen und Infrastrukturkontrollen. Das Unternehmen betont, dass die rasante Entwicklung der KI erfordert, dass die Sicherheits- und Schutzmaßnahmen für Modelle mit den sich entwickelnden Fähigkeiten Schritt halten. Das Sicherheitsteam von Hugging Face entdeckte und stoppte die Aktivitäten des Modells in seinen Systemen, bevor die Ermittler von OpenAI Kontakt aufnehmen konnten. Beide Unternehmen arbeiten bei der weiteren Untersuchung des Vorfalls zusammen.