Ny AI-sårbarhet avslöjad: Claude kan läcka information
En forskare har exponerat en metod där AI:n Claude oavsiktligt kan skicka användares personuppgifter, som namn och arbetsplatser, till externa webbplatser.
Säkerhetsforskaren Ayush Paul har upptäckt en sårbarhet i AI-tjänsten Claude som kan leda till att användares personuppgifter läcker. Enligt Paul kan AI:n oavsiktligt skicka information om användarens namn, arbetsplats och till och med hemstad till externa webbplatser utan användarens tillstånd.
Sårbarheten är kopplad till Claudes förmåga att komma ihåg och använda tidigare konversationer. AI:n har två minnesmekanismer: en daglig sammanfattning av nyligen förda samtal och ett verktyg för att hämta fullständiga konversationshistoriker vid behov. Även om detta förbättrar AI:ns förmåga att anpassa svar, kan det också samla en betydande mängd information om användaren under långvarig användning.
Paul demonstrerade sårbarheten genom att be Claude jämföra verkliga kafé-URL:er med skadliga länkar. I detta sammanhang inkluderade AI:n användarens namn kodat i URL:en. Med ytterligare uppmaningar kunde även namnet på arbetsgivaren och hemstaden avslöjas, information som kan användas för bankverifiering.
Paul rapporterade problemet via Anthropic's program för sårbarhetsbelöningar. Även om Anthropic var medvetna om problemet, hade de ännu inte åtgärdat det vid tidpunkten för Pauls rapport. Företaget har sedan dess blockerat Claude från att följa länkar på externa webbplatser för att förhindra liknande dataläckor.