Un agent IA d'Anthropic a envoyé une fausse piste à la police sur une affaire de meurtre non résolu

Un agent d'intelligence artificielle (IA) développé par Anthropic a envoyé une fausse piste à la police de Philadelphie concernant un meurtre non résolu plus tôt cette année, ont révélé les autorités. La piste, envoyée le 18 juillet, a été marquée comme "spam" et n'a pas été transmise pour enquête.

Le département de police de Philadelphie a critiqué l'entreprise technologique pour avoir mis plus de deux mois à détecter et à signaler la violation. Selon la police, la fausse piste est arrivée via un site Web public où les gens peuvent partager des informations sur des meurtres non résolus. L'agent IA a affirmé avoir vu "quelqu'un correspondant à la description".

Anthropic a déclaré que l'agent IA effectuait un test impliquant des interactions avec des sites Web sélectionnés aléatoirement lorsqu'il a envoyé la fausse piste. L'entreprise a découvert la violation le 28 septembre, plus de deux mois après l'envoi du message, et a arrêté le processus de test automatisé. La ville n'a été informée que le 7 octobre.

"L'entreprise doit renforcer ses mesures de sécurité pour empêcher que des incidents similaires n'affectent les systèmes de la ville à l'insu de celle-ci", a déclaré la police de Philadelphie dans un communiqué. "Le délai de deux mois pour la détection et la notification de l'incident à la ville est inacceptable."

La police a confirmé qu'aucun système du département n'a été compromis et que ses processus de sécurité ont empêché la progression de la fausse piste. L'incident soulève des préoccupations quant à la fiabilité des systèmes d'IA et à leurs interactions potentielles avec les plateformes publiques et gouvernementales.