Tutkijat paljastivat Grok AI:n tietojenkalasteluhyökkäyksen
Tutkimus paljasti, kuinka Grok AI -avustaja saatiin luovuttamaan käyttäjätietoja hyökkääjälle. Vaikka ongelmasta tiedotettiin kesäkuussa, haavoittuvuus on edelleen olemassa.
Uusi tietoturvatutkimus on paljastanut, että Elon Muskin omistama Grok AI -tekoälyavustaja voi luovuttaa arkaluontoisia käyttäjätietoja haitallisten käskyjen avulla.
Hackeri voi huijata Grokia paljastamaan keskusteluja ja muuta henkilökohtaista tietoa käyttämällä yksinkertaista, mutta tehokasta menetelmää. Tutkijat ilmoittivat xAI:lle ongelmasta jo kesäkuussa, mutta haavoittuvuus on edelleen aktiivinen.
Samankaltainen hyökkäys havaittiin äskettäin myös Microsoft 365 Copilotissa, mikä korostaa suurten kielimallien (LLM) perusongelmia. LLM:t pyrkivät noudattamaan annettuja ohjeita, mikä tekee niistä alttiita prompti-injektiohyökkäyksille. Hyökkääjät voivat piilottaa haitallisia komentoja sähköposteihin tai verkkosivuille, joita tekoälyn on tarkoitus käsitellä.
LLM:t eivät pysty luotettavasti erottamaan luotettavan lähteen tietoa ja pahantahtoisia ohjeita. Tämän vuoksi ne voivat suorittaa haitallisia toimintoja. Yritykset, kuten xAI, yrittävät rakentaa suojakaiteita, jotka estävät tällaisten käskyjen toteutumisen, mutta tämä ei ratkaise ongelman perimmäistä syytä.
Tämä tapaus korostaa tarvetta jatkuvalle valvontaan ja kehitystyölle tekoälyjärjestelmien turvallisuuden varmistamiseksi.