KI-Modell von Anthropic findet Sicherheitslücken in gängiger Software
Ein Forschungsmodell von Anthropic hat komplexe Angriffsvektoren für Chrome, Android und Windows entwickelt. Alle identifizierten Schwachstellen wurden inzwischen behoben.
Das Frontier Red Team von Anthropic berichtet, dass ein internes KI-Forschungsmodell erfolgreich mehrstufige Angriffsketten für weit verbreitete Softwareprodukte generiert hat. Die KI identifizierte dabei eigenständig verschiedene Schwachstellen und verknüpfte diese, um Sicherheitsbarrieren wie die Chrome-Sandbox zu umgehen oder den Zugriff auf gesperrte Android-Geräte zu ermöglichen.
Die Analysen des Modells umfassten unter anderem Reverse-Engineering von Binärdateien und die Prüfung von quelloffenem Code. Zu den schwerwiegenderen Ergebnissen gehörten Lücken im Windows-Kernel, die Abstürze durch HTTP/3-Anfragen verursachten, sowie Möglichkeiten zur Ausführung von Befehlen außerhalb der Sicherheitsumgebung von Browsern.
Anthropic hat die identifizierten Schwachstellen vorab an die betroffenen Anbieter gemeldet. Inzwischen wurden alle beschriebenen Probleme durch entsprechende Sicherheitsupdates von Google, Apple und Microsoft geschlossen. Das Projekt unterstreicht das Potenzial von KI-Systemen bei der automatisierten Entdeckung komplexer Sicherheitslücken.