L'IA aide et complique la cybersécurité à la conférence Black Hat

La conférence annuelle sur la cybersécurité Black Hat à Las Vegas a vu l'intelligence artificielle (IA) jouer un double rôle cette année : aider les professionnels de la sécurité à identifier les menaces tout en créant simultanément de nouvelles vulnérabilités. Le personnel du Centre des opérations réseau (NOC) a exploité l'IA pour gérer le flux d'activité réseau et les problèmes potentiels.

L'IA s'est avérée bénéfique pour repérer les comportements réseau suspects et les distinguer des activités légitimes. James Pope, administrateur NOC et directeur principal de la recherche sur les produits de sécurité chez Corelight, a expliqué le processus de combinaison des alertes en détections, puis en "triage agentiel". Ce système a aidé à automatiser le traitement de nombreux problèmes identifiés.

Au cours de la conférence, 8 892 problèmes réseau ont été observés, conduisant à 2 593 cas. Le système de triage alimenté par l'IA a géré avec succès 2 543 d'entre eux automatiquement, réduisant considérablement la charge de travail manuelle pour l'équipe NOC.

Cependant, l'événement a également mis en évidence les préoccupations concernant les logiciels générés par l'IA. De nombreuses applications, souvent créées par un "vibe coding" rapide, manquaient de mesures de sécurité essentielles comme le Transport Layer Security (TLS) pour la transmission des données, laissant les informations exposées. Cette tendance démocratise le développement mais introduit des risques importants.

Pope a conseillé aux participants d'utiliser des outils comme Wireshark pour analyser leurs propres applications à la recherche de fuites de données à leur retour. Il a souligné que si l'IA peut améliorer la sécurité du réseau, le code généré par l'IA nécessite un examen approfondi. L'équipe NOC s'est également concentrée sur l'éducation des utilisateurs concernant les risques liés aux applications non sécurisées au-delà des menaces réseau immédiates.