AI-palvelu Clauden käyttäjädataa löytyi Googlen hakutuloksista

Tiedossa oleva määrä tekoälypalvelu Clayden jaettuja keskusteluja ja "Artifacts"-tyyppisiä dokumentteja on löytynyt julkisesti haettavissa olevana Googlen kautta. Ongelma paljastui viikonloppuna, kun Redditin käyttäjät havaitsivat, että tietyillä hakukomennoilla Googlen hakutuloksiin ilmestyi pitkä lista jaettuja keskusteluja, joiden joukossa kerrotaan olleen arkaluonteista tietoa, kuten terveystietoja ja yritysdokumentteja.

Ongelman uskotaan liittyvän Clayden "Jaa keskustelu" -ominaisuuteen. Tämä ominaisuus mahdollistaa käyttäjille linkkien luomisen, joiden kautta kuka tahansa linkin haltija voi tarkastella keskustelua tai projektia. Clayden käyttöliittymä varoittaa, että "kuka tahansa linkin haltija voi katsella", mutta käyttäjät ovat tulkinneet tämän tarkoittavan jakamista rajatulle joukolle, ei koko internetille. Vastaavia ominaisuuksia tarjoavat alustat, kuten Google Docs, eivät yleensä indeksoi jaettuja dokumentteja julkisesti.

Tekoäly-yritys Anthropic on kommentoinut asiaa toteamalla, että jaetut linkit ilmestyvät hakutuloksiin vain, jos ne on julkaistu hakukoneiden nähtävillä olevilla alustoilla, kuten foorumeilla tai sosiaalisen median päivityksissä. Yhtiön mukaan yksityisesti lähetetyt linkit eivät päädy hakutuloksiin. Tämä viittaa siihen, että vastuuta tietovuodosta voidaan osittain siirtää käyttäjille, jotka ovat jakaneet linkkejä julkisesti ilman tietoista harkintaa niiden mahdollisesta indeksoitumisesta.

Tapaus korostaa tekoälypalveluiden käytön tietoturvariskejä ja tarvetta selkeämmille ohjeistuksille käyttäjille siitä, miten jaetut linkit toimivat ja miten arkaluonteisia tietoja voidaan suojata. On epäselvää, kuinka suuri määrä käyttäjiä ja dataa on altistunut, ja Anthropic ei ole antanut tarkempia tietoja ongelman laajuudesta tai sen korjaamiseksi tehdyistä toimenpiteistä.