Conversations de l'IA Claude d'Anthropic découvertes dans les recherches Google

Des milliers de conversations entre le chatbot IA Claude d'Anthropic et ses utilisateurs, ainsi que des outils créés lors de ces échanges, étaient découvrables via les recherches Google au début du mois. Ce problème, vraisemblablement lié aux conversations partagées et rendues publiques, a depuis été corrigé par Anthropic.

Parmi les conversations apparues dans les résultats de recherche Google figuraient, selon les rapports, des contenus sensibles, notamment du sextage et un projet visant à former de futurs ingénieurs en sécurité. Des conversations embarrassantes ou potentiellement privées ont été partagées sur les plateformes de réseaux sociaux pendant le week-end jusqu'à ce qu'Anthropic déréférence les résultats de recherche Google affectés.

Cet incident rappelle un problème de sécurité similaire rencontré par ChatGPT d'OpenAI il y a près d'un an. En juillet 2023, Fast Company avait révélé un cas comparable où des conversations ChatGPT partagées étaient indexées par les moteurs de recherche. OpenAI a ensuite supprimé la possibilité d'autoriser l'indexation des conversations par les moteurs de recherche.

L'analyste en cybersécurité Rachel Tobac a souligné que les utilisateurs ne comprennent clairement pas les implications des conversations qu'ils partagent. « C'est un problème évident d'expérience utilisateur », a déclaré Tobac. « Les utilisateurs ne comprennent clairement pas ce à quoi ils consentent ou qu'ils publient leurs mots de passe, clés, questions personnelles et données propriétaires au monde entier. »

Anthropic affirme que les utilisateurs ont le contrôle du partage public de leurs conversations et que l'entreprise ne partage pas de répertoires de chats ni de plans de site avec les moteurs de recherche. L'entreprise soutient que les liens ne sont découvrables que lorsqu'un utilisateur les partage délibérément, auquel cas la conversation devient publique et peut être archivée par des services tiers.