Användardata från AI-tjänsten Claude hittat i Googles sökresultat

Ett okänt antal delade konversationer och "Artifacts" från AI-tjänsten Claude har hittats offentligt sökbara via Google. Problemet uppdagades under helgen när Reddit-användare upptäckte att långa listor med delade konversationer dök upp i Googles sökresultat vid användning av specifika sökoperatorer. Vissa av dessa konversationer uppges ha innehållit känslig information, såsom hälsouppgifter och företagsdokument.

Problemet tros härröra från Claydes funktion "Dela konversation". Denna funktion låter användare skapa länkar som gör det möjligt för vem som helst som har URL-adressen att se en konversation eller ett projekt. Claydes gränssnitt varnar "vem som helst med länken kan se", men användare har tolkat detta som avsett för delning med en begränsad krets, inte hela internet. Liknande funktioner på plattformar som Google Docs indexerar vanligtvis inte delade dokument offentligt.

AI-företaget Anthropic har kommenterat händelsen och uppger att delade länkar endast visas i sökresultat om de har publicerats på plattformar som sökmotorer kan se, såsom forum eller inlägg på sociala medier. Enligt företaget hamnar länkar som skickas privat till någon inte i sökresultaten. Detta antyder att en del av ansvaret för dataläckan kan överföras till användare som har delat länkar offentligt utan att medvetet överväga deras potentiella indexering.

Fallet belyser säkerhetsriskerna med att använda AI-tjänster och behovet av tydligare vägledning för användare om hur delade länkar fungerar och hur känslig information kan skyddas. Det är oklart hur många användare och hur mycket data som har exponerats, och Anthropic har inte lämnat några specifika detaljer om problemets omfattning eller vilka åtgärder som vidtagits för att åtgärda det.