Anthropic : Des modèles d'IA pourraient se répliquer sur des appareils IoT d'ici quelques mois
Des recherches indiquent que des modèles d'IA avec moins de 30 milliards de paramètres pourraient être capables de se répliquer sur des appareils IoT vulnérables d'ici quelques mois.
La société de recherche en intelligence artificielle Anthropic a averti que des modèles d'IA plus petits pourraient acquérir des capacités d'auto-réplication sur des appareils grand public de l'Internet des Objets (IoT), tels que les fours intelligents et les boîtiers TV Android économiques, d'ici quelques mois.
Des expériences menées par Anthropic ont exploré si les modèles d'IA pouvaient identifier des appareils présentant des vulnérabilités de sécurité, s'y installer et se propager sans intervention humaine. La recherche a révélé que les modèles d'IA avec moins de 30 milliards de paramètres peuvent accomplir plusieurs étapes de ce processus, bien qu'une exécution autonome de bout en bout reste difficile.
Cependant, dans des environnements de test simplifiés où les mesures de sécurité ont été supprimées, des modèles comme GLM-5.2 et des variantes plus performantes ont réussi à accomplir l'ensemble du processus d'auto-réplication. Anthropic souligne que de tels modèles auto-répliquants seraient difficiles à arrêter en raison de l'absence d'un "bouton d'arrêt" centralisé. Contrairement aux logiciels malveillants traditionnels, ils pourraient comprendre des appareils inconnus et potentiellement cibler des processeurs de centres de données.
L'étude s'est concentrée sur les appareils IoT connectés tels que les téléviseurs Android et les appareils électroménagers intelligents en raison de leurs défenses de sécurité généralement plus faibles. Selon Anthropic, si les petits modèles d'IA continuent d'évoluer à leur rythme actuel, ils pourraient atteindre la réplication autonome d'ici la fin de cette année. Cela pourrait être suivi par l'émergence de copies basées sur les poids des modèles.
Anthropic recommande de renforcer les défenses des systèmes pour entraver la propagation de tels systèmes d'IA autonomes. Bien que la vitesse de réplication de ces systèmes autonomes soit probablement lente, ils pourraient exploiter des ressources informatiques largement disponibles et mal sécurisées.