Microsoft Copilot paljasti haavoittuvuuden kysymysten kautta
Tutkijat löysivät kriittisen tietoturva-aukon Microsoft 365 Copilot Enterprise -järjestelmästä esittämällä kysymyksiä tekoälylle itselleen.
Tietoturvayhtiö Varonis on paljastanut kriittisen haavoittuvuuden Microsoft 365 Copilot Enterprise -järjestelmässä. Hyökkääjät pystyivät hyödyntämään tätä haavoittuvuutta saadakseen tekoälymallin paljastamaan arkaluonteisia tietoja, kuten käyttäjien salasanoja, ilman käyttäjän vahvistusta.
Tutkimus erottui tavanomaisista menetelmistä, sillä haavoittuvuus löydettiin kysymällä sitä suoraan Copilot-tekoälyltä. Tekoäly antoi tietoja turvamekanismeistaan, jotka lopulta johtivat salaisen, dokumentoimattoman parametrin paljastumiseen. Tämä parametri mahdollisti käyttäjän suostumuksen vaatimisen ohittamisen.
Varoksen tutkijat pyrkivät luomaan hyökkäyksen, jossa käyttäjä voisi paljastaa tietoja pelkästään klikkaamalla linkkiä. Vaikka Copilot normaalisti kieltäytyy suorittamasta komentoja ilman nimenomaista käyttäjän vahvistusta, tutkijat onnistuivat keräämään tarvittavat tiedot esittämällä sarjan kysymyksiä tekoälyn turvatoimista ja niiden rajoituksista.
Löydetty parametri mahdollistaa sen, että Copilot voi suorittaa komentoja ja luovuttaa tietoja ilman, että käyttäjän tarvitsee erikseen hyväksyä toimenpidettä. Microsoftin odotetaan korjaavan tämän haavoittuvuuden pian.