Anthropic Clips hade problem med att visas i Google-sökningar

Tusentals konversationer mellan Anthropic AI Claude och dess användare, tillsammans med verktyg som skapats under dessa chattar, var tillgängliga via Google-sökningar tidigare denna månad. Problemet, som troligen uppstod med delade och offentligt tillgängliga konversationer, har sedan dess åtgärdats av Anthropic.

Bland de konversationer som kunde hittas via Google-sökningar rapporterades det finnas känsligt material, inklusive texter av sexuell natur och ett projekt som syftar till att utbilda framtida säkerhetsingenjörer. Sociala medieplattformar spred under helgen potentiellt pinsamma eller privata konversationer tills Anthropic tog bort länkarna från Googles sökresultat.

Detta liknar ett liknande säkerhetsproblem som drabbade OpenAI:s ChatGPT för nästan ett år sedan. I juli 2023 avslöjade Fast Company en liknande incident där delade ChatGPT-konversationer indexerades av sökmotorer. OpenAI drog snabbt tillbaka möjligheten att tillåta indexering av konversationer.

Cybersäkerhetsanalytikern Rachel Tobac betonar att användarna uppenbarligen inte förstår konsekvenserna av de konversationer de delar. "Det är ett tydligt användarupplevelseproblem", säger Tobac. "Användarna förstår uppenbarligen inte vad de går med på eller att de publicerar sina lösenord, nycklar, personliga frågor och affärshemligheter för världen."

Enligt Anthropic har användarna kontroll över att dela sina konversationer offentligt, och företaget delar inte konversationskataloger eller webbplatskartor med sökmotorer. Företaget uppger att länkarna endast blir tillgängliga när en användare medvetet delar dem, varvid konversationen blir offentlig och kan arkiveras av tredjepartstjänster.