Microsoft Copilot enthüllte Schwachstelle durch Befragung
Forscher entdeckten eine kritische Sicherheitslücke in Microsoft 365 Copilot Enterprise, indem sie der KI Fragen stellten.
Das Sicherheitsunternehmen Varonis hat eine kritische Schwachstelle in Microsoft 365 Copilot Enterprise identifiziert. Angreifer konnten diese Lücke ausnutzen, um das KI-Modell dazu zu bringen, sensible Benutzerdaten, einschließlich Passwörtern, ohne explizite Benutzerbestätigung preiszugeben.
Die Entdeckungsmethode war unkonventionell; Forscher befragten Copilot direkt. Durch eine Reihe von Anfragen offenbarte die KI Informationen über ihre Sicherheitsmechanismen, was letztendlich zur Enthüllung eines undokumentierten Parameters führte, der Zustimmungserfordernisse umging.
Die Forscher von Varonis verfolgten das Ziel, einen Exploit zu entwickeln, bei dem ein Benutzer versehentlich Daten preisgeben könnte, indem er einfach auf einen Link klickt. Während Copilot normalerweise Befehle ohne Benutzerzustimmung verweigert, sammelten die Forscher durch hartnäckige Befragungen Informationen über seine Schutzmechanismen und Grenzen.
Der identifizierte Parameter ermöglicht es Copilot, Befehle auszuführen und Daten zu exfiltrieren, ohne dass der Benutzer eine explizite Bestätigung geben muss. Microsoft wird voraussichtlich diese Sicherheitslücke beheben.