Kehotteiden syöttö hyökkäysmerkitys
OWASP Top 10 LLM -sovelluksissa kehotteiden syöttö on ollut kolme vuotta ykkösenä. Tutkimus paljastaa sen olevan silti merkittävä uhka, vaikka se ei näykään skannereissa.
Kehotteiden syöttö, jossa haitallisia ohjeita piilotetaan kielimallin lukemaan sisältöön, on säilyttänyt ykkössijansa OWASP Top 10 for LLM Applications -listalla kolmena peräkkäisenä vuonna. Vaikka todellisten välikohtausten listauksessa se on sijoittunut 12:ksi, asiantuntijat korostavat sen jatkuvaa vakavuutta.
Kyriakos “Rock” Lambros ja Steve Wilson, jotka johtavat OWASP Top 10 for LLM Applications -projektia, julkaisivat alustavan analyysin elokuussa. Tutkimuksessa verrattiin asiantuntija-arvioita 6 639 merkittyyn todelliseen tietoturvatapahtumaan. Analyysi osoitti, että asiantuntija-arvioiden ja julkisen tapahtumatiedon välillä ei ollut tilastollisesti merkittävää yhteneväisyyttä.
Kehotteiden syöttö on vaikeasti havaittava, koska se hyödyntää mallin normaalia toimintaa, kuten logitiedostojen tai haettujen dokumenttien lukemista. Hyökkääjä voi saada mallin suorittamaan komentoja, jotka se muuten tekisi laillisesti, ilman että järjestelmässä näkyisi vikaa tai siitä jäisi merkintää tietoturvaskannereille.
Asiantuntijoiden mukaan tehokkaimmat puolustuskeinot ovat järjestelmän jatkuva testaus ja rajoitukset sille, mihin malli voi päästä käsiksi. Steve Wilson, Exabeamin AI ja tuotejohtaja, korostaa ulkoisten valtuutusporttien merkitystä mallin toiminnan rajoittamisessa. Pelkkä mallin sisäisten ohjeiden käyttö ei riitä, vaan tarvitaan ulkoisia, pakotettavia turvallisuussääntöjä.
Vaikka matala ilmoitusmäärä voi viitata toimiviin puolustuskeinoihin, se voi myös kertoa siitä, ettei järjestelmiä ole riittävästi tutkittu. CrowdStriken raportti osoitti, että hyökkääjät kohdistivat kehotteiden syöttöä yli 90 organisaatioon vuonna 2025. Asiantuntijat kehottavat suunnittelemaan järjestelmät olettaen, että kehotteiden syöttöä tapahtuu, ja rajoittamaan hyökkääjän mahdollisia toimenpiteitä sen sattuessa.