Microsoft Copilot avslöjade en sårbarhet genom frågor

Säkerhetsföretaget Varonis har avslöjat en kritisk sårbarhet i Microsoft 365 Copilot Enterprise. Angripare kunde utnyttja denna sårbarhet för att få AI-modellen att avslöja känslig information, såsom användares lösenord, utan användarverifiering.

Undersökningen skilde sig från konventionella metoder, då sårbarheten upptäcktes genom att direkt fråga Copilot AI. AI:n gav information om sina säkerhetsmekanismer, vilket så småningom ledde till avslöjandet av en hemlig, odokumenterad parameter. Denna parameter möjliggjorde att kravet på användares samtycke kunde kringgås.

Varos forskare strävade efter att skapa en attack där en användare kunde avslöja information enbart genom att klicka på en länk. Även om Copilot normalt vägrar att utföra kommandon utan explicit användarverifiering, lyckades forskarna samla in nödvändig information genom att ställa en serie frågor om AI:ns säkerhetsåtgärder och deras begränsningar.

Den upptäckta parametern gör det möjligt för Copilot att utföra kommandon och lämna ut information utan att användaren specifikt behöver godkänna åtgärden. Microsoft förväntas åtgärda denna sårbarhet inom kort.