Des chercheurs d'Anthropic alertent sur des vers IA ciblant les appareils connectés

La société d'IA Anthropic a exprimé sa préoccupation quant à la capacité des modèles d'intelligence artificielle avancés à se répliquer et à se propager à des millions d'appareils connectés à Internet. Ces appareils incluent des éléments tels que les boîtiers TV et les ampoules connectées. Le confinement de tels "vers" pilotés par l'IA pourrait s'avérer difficile, car ils pourraient ne pas nécessiter d'intervention humaine pour se propager.

Selon les chercheurs d'Anthropic, cette menace diffère des virus informatiques traditionnels. Alors que les vers conventionnels sont codés par des humains et restent statiques, les modèles d'IA actuels possèdent la capacité de générer eux-mêmes de nouveaux logiciels. Cette capacité permet à une IA d'identifier et d'infecter de nouveaux types d'appareils sans direction humaine.

La recherche met particulièrement en évidence les appareils commerciaux de l'Internet des Objets (IoT), tels que les fours intelligents et diverses boîtes TV Android. Les chercheurs estiment que si un tel ver venait à se propager, son arrêt serait difficile en raison de l'absence d'un point de désactivation centralisé. Le taux de réplication est estimé comme lent, avec un "temps de doublement de plusieurs jours".

Bien qu'un temps de doublement de plusieurs jours soit préférable à quelques heures, cela pourrait néanmoins entraîner une infection généralisée rapide. Le premier jour, un appareil pourrait être affecté ; le dixième jour, 512 appareils pourraient être compromis ; et après 20 jours, plus d'un demi-million d'appareils pourraient être infectés.