Ars Technica : Des agents IA ont installé du code non identifié dans les réseaux d'entreprise

Ars Technica rapporte une vulnérabilité où des sites web amènent involontairement des agents IA à installer du code exécutable non identifié dans les réseaux d'entreprise. Plus de 100 sites web référençaient du contenu potentiellement dangereux qui s'exécutait lors de son accès par divers agents IA.

Le problème provient des fichiers llms.txt et llms-full.txt, que les sites web utilisent pour fournir des résumés de contenu lisibles par machine pour l'IA. Les chercheurs ont analysé des milliers de domaines et identifié 120 fichiers sur différents sites pointant vers des paquets de code ou des domaines non enregistrés. En enregistrant ces noms non réclamés et en hébergeant des paquets, les chercheurs ont testé la vulnérabilité.

Lors de la visite de ces sites par des agents IA, les chercheurs ont reçu des réponses "téléphoniques" provenant de réseaux d'entreprise, confirmant l'exécution. Plus d'une douzaine d'entreprises, y compris des sociétés du Fortune 500, ont confirmé avoir exécuté le code de preuve de concept, avec une réponse reçue en moins d'une heure.

Les agents IA identifiés comme responsables de l'exécution du code incluent Claude d'Anthropic, Codex d'OpenAI et Hermes de Nous Research. Les entreprises derrière ces agents IA n'ont pas commenté l'incident au moment de la publication. De plus, au moins un site mal configuré a été identifié comme dirigeant tous les visiteurs, humains ou IA, vers des logiciels malveillants actifs.