Les hackers IA s'accélèrent, la préparation du gouvernement remise en question
Une nouvelle génération de systèmes d'IA peut trouver et exploiter des vulnérabilités plus rapidement que les hackers humains, suscitant des préoccupations gouvernementales. L'administration américaine envisagerait des contrôles sur les sorties publiques.
Les systèmes d'IA agentifs représentent une menace significative pour la cybersécurité, avec de nouveaux modèles tels que Mythos d'Anthropic et GPT 5.6 d'OpenAI capables d'identifier et d'exploiter les vulnérabilités des systèmes à des vitesses dépassant les capacités humaines. Cette avancée rapide aurait incité le gouvernement américain à explorer des mesures pour limiter ou suspendre la publication publique de ces technologies d'IA puissantes.
Les inquiétudes grandissent quant à la préparation du gouvernement américain à défendre ses ressources informatiques contre ces menaces avancées. Des rapports indiquent que des agences comme la Cybersecurity and Infrastructure Security Agency (CISA) et le programme FedRAMP de la General Services Administration, responsable des normes de sécurité des systèmes cloud, ont subi des réductions de ressources. Bien que les deux aient commencé à aborder les risques liés à l'IA par le biais de directives et d'exigences révisées pour des fournisseurs tels qu'AWS et Microsoft, d'anciens responsables expriment des préoccupations quant aux effectifs et à la préparation globale.
L'infrastructure cloud étendue du gouvernement, abritant des services critiques et des données sensibles, constitue une cible principale pour les cyberattaques. L'IA agentive pourrait permettre des attaques automatisées à grande échelle qui surmontent les contraintes antérieures de temps et de compétence, entraînant potentiellement des dommages étendus dus à des exploitations plus simples mais plus fréquentes. Celles-ci pourraient aller de campagnes de phishing sophistiquées au contournement de l'authentification multifacteur.
Un défi majeur réside dans la dépendance du gouvernement vis-à-vis des fournisseurs de services cloud commerciaux. La sécurité devient une responsabilité partagée entre les fournisseurs et les configurations des agences individuelles, créant des lacunes potentielles où aucune des parties n'est entièrement responsable de la sécurité en cours. Les experts soulignent la nécessité d'un déploiement robuste de l'IA défensive et d'une adaptation continue des protocoles de sécurité pour contrer le paysage évolutif des menaces posé par les agents d'IA autonomes.