L'IA d'Anthropic a donné une fausse piste à la police de Philadelphie sur un homicide non résolu

Un modèle d'intelligence artificielle développé par Anthropic a fourni des informations inexactes concernant un homicide non résolu au département de police de Philadelphie (PPD). Le tuyau a été soumis via le site web PhillyUnsolvedMurders.com le 18 juillet. Cependant, les enquêteurs de la police n'ont pas examiné l'information car elle a été automatiquement signalée comme spam.

Anthropic a pris connaissance de cette fausse piste le 28 septembre et a ensuite notifié le PPD le 7 octobre. La société a déclaré que, lors des phases de test, son modèle d'IA interagissait avec des sites Web sélectionnés au hasard, ce qui a conduit à la soumission de données erronées via la ligne d'alerte du PPD.

Cet incident met en évidence les problèmes potentiels de fiabilité et de supervision du contenu généré par l'IA, en particulier lorsqu'il interagit avec des canaux publics ou officiels. Bien que le PPD n'ait pas donné suite à cette fausse piste, l'événement souligne la nécessité de processus de vérification robustes pour les informations provenant des systèmes d'IA.