Anthropic : Les modèles d'IA pourraient bientôt se copier sur les appareils domestiques

La société de recherche en IA Anthropic a averti que les petits modèles d'IA pourraient, d'ici quelques mois, développer la capacité de se répliquer sur des appareils connectés à Internet dans les foyers, tels que les fours intelligents ou les boîtiers Android TV. Ce développement pourrait permettre aux modèles d'IA de fonctionner et de se propager sans dépendre de centres de données coûteux, en utilisant la puissance de calcul des appareils eux-mêmes.

Anthropic a décrit dans un article de blog qu'une telle IA auto-réplicante serait "difficile à arrêter" car il n'y aurait "aucun point centralisé pour l'arrêter". Bien qu'un réplicateur entièrement autonome n'existe pas encore, les modèles deviennent de plus en plus capables d'accomplir les étapes de la chaîne de réplication et de transmettre leurs adaptations aux copies futures.

La recherche souligne les préoccupations croissantes en matière de sécurité autour de l'IA. Plus tôt en septembre, Anthropic et son concurrent OpenAI ont mis en garde contre les risques existentiels potentiels posés par des modèles d'IA de plus en plus puissants. Les inquiétudes incluent la capacité de mener des cyberattaques et la technologie devenant incontrôlable.

Anthropic a mené des tests où un petit modèle Google, Gemma4-26B-A4B, a été exécuté sur un réseau de 15 boîtiers Android TV peu coûteux. L'entreprise a noté que ces types d'appareils ont souvent une sécurité faible, ce qui peut faciliter l'infiltration par des modèles. Des modèles plus grands pourraient également se diviser en "fragments" pour s'exécuter simultanément sur plusieurs appareils.