Anthropicin Claude-keskustelut ilmestyivät Googlen hauissa

Tuhannet Anthropicin AI-chatbotin Claude keskustelut sekä niiden aikana luodut työkalut olivat löydettävissä Googlen hakutuloksista tämän kuun alussa. Ongelma, joka todennäköisesti koski jaettuja ja julkisiksi asetettuja keskusteluja, on sittemmin korjattu Anthropicin toimesta.

Keskustelujen joukossa, jotka joutuivat Googlen hakutuloksiin, oli raportoidusti arkaluonteista materiaalia, kuten seksuaalista sisältöä ja projekti, joka tähtäsi tietoturva-insinöörien kouluttamiseen. Sosiaalisen median alustoilla jaettiin viikonlopun aikana potentiaalisesti kiusallisia tai yksityisiä keskusteluja, kunnes Anthropic poisti niihin johtaneet linkit Googlen hakutuloksista.

Kyseessä on samankaltainen tietoturvaongelma, johon myös OpenAI:n ChatGPT ajautui lähes vuosi sitten. Tuolloin, heinäkuussa 2023, Fast Company paljasti vastaavan ilmiön, jossa käyttäjien jakamat ChatGPT-keskustelut indeksoituivat hakukoneisiin. OpenAI veti nopeasti pois mahdollisuuden sallia keskustelujen indeksointi hakukoneissa.

Cyberkalanalyytikko Rachel Tobac korostaa, että käyttäjät eivät selvästikään ymmärrä jakamiensa keskustelujen seurauksia. "On ilmeinen käyttäjäkokemusongelma", Tobac toteaa. "Käyttäjät eivät selvästikään ymmärrä, mihin he suostuvat tai että he julkaisevat salauksensa, salasanoja, avaimia, henkilökohtaisia kysymyksiä ja liikesalaisuuksia maailmalle."

Anthropicin mukaan käyttäjillä on kontrolli keskustelujensa julkisesta jakamisesta, eikä yritys jaa keskusteluhakemistoja tai sivukarttoja hakukoneiden kanssa. Yrityksen mukaan linkit ovat löydettävissä vain, kun käyttäjä jakaa ne tahallisesti, jolloin keskustelusta tulee julkinen ja kolmansien osapuolten arkistointipalvelut voivat tallentaa sen.