Uusi tekoälyhaavoittuvuus paljastettu: Claude voi vuotaa tietoja
Tutkija paljasti tavan, jolla Claude-tekoäly voi vahingossa lähettää käyttäjien henkilötietoja, kuten nimiä ja työpaikkoja, ulkoisille verkkosivuille.
Turvallisuustutkija Ayush Paul on paljastanut uuden haavoittuvuuden Claude-tekoälypalvelussa, joka voi johtaa käyttäjien henkilötietojen vuotamiseen. Paulin mukaan tekoäly voi tahattomasti lähettää käyttäjän nimen, työpaikan ja jopa kotikaupungin tietoja ulkoisille verkkosivustoille ilman käyttäjän lupaa.
Haavoittuvuus liittyy Clauden kykyyn muistaa ja hyödyntää aiempia keskusteluja. Tekoälyllä on kaksi muistimekanismia: päivittäinen yhteenveto hiljattain käydyistä keskusteluista ja työkalu, jolla voidaan hakea täydellisiä keskusteluhistorioita tarpeen mukaan. Vaikka tämä parantaa tekoälyn kykyä räätälöidä vastauksia, se voi myös kerätä merkittävän määrän tietoa käyttäjästä pitkän käytön aikana.
Paul demonstroi haavoittuvuutta pyytämällä Claudea vertailemaan todellisia kahviloiden URL-osoitteita pahantahtoisiin linkkeihin. Tässä yhteydessä tekoäly sisällytti käyttäjän nimen enkoodattuna URL-osoitteeseen. Lisäkehotuksilla voitiin saada paljastumaan myös työnantajan nimi ja kotikaupunki, tietoja, joita voidaan käyttää jopa pankkitunnistautumiseen.
Paul raportoi ongelmasta Anthropicin haavoittuvuuksien palkkio-ohjelman kautta. Vaikka Anthropic oli tietoinen ongelmasta, se ei ollut vielä korjannut sitä Paulin raportointihetkellä. Yritys on sittemmin estänyt Claudea seuraamasta linkkejä ulkoisilla verkkosivuilla estääkseen vastaavia tietovuotoja.