Daten aus Anthropic's KI-Chatdienst Claude öffentlich über Google durchsuchbar

Eine bestätigte Anzahl von geteilten Konversationen und "Artifacts" des KI-Dienstes Claude von Anthropic wurde als öffentlich über Google durchsuchbar identifiziert. Das Problem wurde am Wochenende bekannt, als Reddit-Nutzer feststellten, dass spezifische Suchanfragen eine lange Liste geteilter Konversationen zutage förderten, darunter Berichten zufolge auch sensible Informationen wie Gesundheitsdaten und interne Unternehmensdokumente.

Das Problem scheint von der "Chat teilen"-Funktion von Claude auszugehen. Diese Funktion ermöglicht es Benutzern, Links zu generieren, die den Zugriff auf eine Konversation oder ein Projekt für jeden mit der bereitgestellten URL gewähren. Obwohl die Benutzeroberfläche von Claude davor warnt, dass "jeder mit dem Link anzeigen kann", scheinen Benutzer dies als für die Weitergabe an eine begrenzte Gruppe, nicht das gesamte Internet, gedacht zu interpretieren. Ähnliche Funktionen auf Plattformen wie Google Docs indizieren geteilte Dokumente normalerweise nicht öffentlich.

Das KI-Unternehmen Anthropic hat zu der Angelegenheit Stellung genommen und erklärt, dass geteilte Links nur dann in Suchergebnissen erscheinen, wenn sie auf Plattformen veröffentlicht wurden, die für Suchmaschinen zugänglich sind, wie z.B. Foren oder Beiträge in sozialen Medien. Laut dem Unternehmen landen privat versendete Links nicht in Suchergebnissen. Dies deutet darauf hin, dass ein Teil der Verantwortung für die Datenexposition bei den Benutzern liegen könnte, die Links öffentlich geteilt haben, ohne deren potenzielle Indexierung vollständig zu berücksichtigen.

Der Vorfall unterstreicht die Sicherheitsrisiken bei der Nutzung von KI-Diensten und die Notwendigkeit klarerer Benutzerrichtlinien dafür, wie Freigabelinks funktionieren und wie sensible Informationen geschützt werden können. Das genaue Ausmaß der Exposition, gemessen an der Anzahl der betroffenen Benutzer und Daten, bleibt unklar, und Anthropic hat keine spezifischen Details zum Umfang des Problems oder zu den ergriffenen Korrekturmaßnahmen bereitgestellt.