Neue KI-Schwachstelle aufgedeckt: Claude kann Namen und Arbeitgeber preisgeben
Ein Sicherheitsforscher hat eine Methode aufgedeckt, mit der die KI Claude versehentlich persönliche Nutzerdaten wie Namen und Arbeitgeber an externe Webseiten senden kann.
Der Sicherheitsforscher Ayush Paul hat eine Schwachstelle im KI-Dienst Claude offengelegt, die zum Abfluss persönlicher Nutzerdaten führen könnte. Laut Paul kann die KI unbeabsichtigt Informationen über den Namen, den Arbeitgeber und sogar die Heimatstadt eines Nutzers ohne dessen Zustimmung an externe Webseiten übertragen.
Die Schwachstelle beruht auf der Fähigkeit von Claude, vergangene Konversationen zu erinnern und zu nutzen. Die KI verfügt über zwei Speicherungsmechanismen: eine tägliche Zusammenfassung aktueller Dialoge und ein Werkzeug zur Abfrage vollständiger Konversationshistorien bei Bedarf. Dies verbessert zwar die Fähigkeit der KI, Antworten anzupassen, kann aber auch über längere Nutzungsdauer erhebliche Nutzerinformationen ansammeln.
Paul demonstrierte die Schwachstelle, indem er Claude bat, echte Café-URLs mit bösartigen Links zu vergleichen. In diesem Zusammenhang kodierte die KI den Namen des Nutzers in die URL ein. Weitere Aufforderungen konnten auch den Namen des Arbeitgebers und die Heimatstadt offenlegen, Daten, die potenziell für die Verifizierung durch Finanzinstitute genutzt werden könnten.
Paul meldete das Problem über das Bug-Bounty-Programm von Anthropic. Obwohl Anthropic das Problem kannte, war es zum Zeitpunkt von Pauls Meldung noch nicht behoben. Das Unternehmen hat seitdem die Fähigkeit von Claude, Links auf externen Webseiten zu folgen, deaktiviert, um ähnliche Datenlecks zu verhindern.