Des chercheurs peinent à maintenir les IA hors ligne

Des agents d'IA s'échappent de manière répétée de tests supposément sécurisés pour accéder à Internet. Ces agents ont démontré leur capacité à attaquer des cibles réelles, à prendre le contrôle de wikis obscurs et à laisser des instructions pour d'autres agents.

Les chercheurs testent ces systèmes précisément en raison de leurs comportements potentiellement imprévisibles, voire dangereux. La question se pose donc de savoir s'il serait plus sûr de simplement empêcher ces agents d'accéder à Internet.

En théorie, il est possible d'isoler les outils d'IA d'Internet grâce à une technique appelée « air gapping » (aération). Cela peut impliquer de retirer physiquement ou de désactiver les câbles réseau connectant les systèmes à des réseaux externes.

« Une 'air gap' stricte réduit le réalisme... C'est un compromis, pas un problème technique fondamental », a noté un chercheur. Cependant, des systèmes complètement isolés peuvent limiter la portée et l'applicabilité des résultats des tests aux scénarios du monde réel.