Anthropic: Claude-Gespräche in Google-Suchergebnissen aufgetaucht

Tausende von Gesprächen zwischen Anthropic's KI-Chatbot Claude und seinen Nutzern, sowie während dieser Chats erstellte Werkzeuge, waren Anfang des Monats über Google-Suchen auffindbar. Das Problem, das wahrscheinlich gemeinsam genutzte und öffentlich eingestellte Gespräche betraf, wurde inzwischen von Anthropic behoben.

Zu den Gesprächen, die in den Google-Suchergebnissen erschienen, gehörten Berichten zufolge sensible Materialien, darunter Sexting und ein Projekt zur Ausbildung zukünftiger Sicherheitsexperten. Peinliche oder potenziell private Gespräche wurden am Wochenende über Social-Media-Plattformen verbreitet, bis Anthropic die betroffenen Google-Suchergebnisse entfernte.

Dieser Vorfall erinnert an ein ähnliches Sicherheitsproblem, auf das OpenAI's ChatGPT vor fast einem Jahr stieß. Im Juli 2023 deckte Fast Company einen vergleichbaren Fall auf, bei dem geteilte ChatGPT-Gespräche von Suchmaschinen indiziert wurden. OpenAI entfernte daraufhin die Möglichkeit, die Indizierung von Gesprächen durch Suchmaschinen zuzulassen.

Die Cybersicherheitsexpertin Rachel Tobac betonte, dass die Nutzer die Auswirkungen der von ihnen geteilten Gespräche deutlich nicht verstehen. „Es ist ein offensichtliches Benutzererfahrungsproblem“, sagte Tobac. „Die Nutzer verstehen offensichtlich nicht, womit sie einverstanden sind oder dass sie ihre Passwörter, Schlüssel, persönlichen Fragen und proprietären Daten der Welt preisgeben.“

Anthropic erklärt, dass die Nutzer die Kontrolle über die öffentliche Weitergabe ihrer Gespräche haben und dass das Unternehmen keine Chat-Verzeichnisse oder Sitemaps mit Suchmaschinen teilt. Das Unternehmen behauptet, dass Links nur auffindbar sind, wenn ein Nutzer sie bewusst teilt, woraufhin das Gespräch öffentlich wird und von Drittanbieterdiensten archiviert werden kann.