La recherche de vulnérabilités par l'IA augmente les risques de cybersécurité

Des experts de l'Université de Groningue ont exprimé leur inquiétude quant au fait que les systèmes d'intelligence artificielle avancés intensifient le « jeu du chat et de la souris » en matière de cybersécurité entre les organisations et les acteurs malveillants.

Aline Klingenberg et Evgeni Moyakine, chercheurs spécialisés en cybersécurité et en droit informatique, ont déclaré que l'IA peut accélérer l'identification des vulnérabilités logicielles. Leurs commentaires font suite aux affirmations d'Anthropic concernant son nouveau modèle linguistique génératif, Mythos, qui serait capable de révéler des faiblesses dans les systèmes d'exploitation, les navigateurs et les serveurs.

Moyakine a souligné que si ces outils d'IA peuvent aider les entreprises à détecter les vulnérabilités et à se conformer à des réglementations telles que la directive NIS2 de l'UE, ils présentent également des risques. Il a averti que les mêmes capacités pourraient être mal utilisées par les pirates informatiques, créant ainsi de nouveaux défis pour la sécurité numérique.

Les chercheurs ont également souligné les différentes approches de réglementation technologique entre les États-Unis et l'Europe. Ils ont observé que l'Europe a tendance à évaluer les nouvelles technologies plus tôt en termes de confidentialité, de sécurité et d'impact sociétal, contrastant avec l'accent mis aux États-Unis sur la liberté d'entreprendre. Cependant, ils ont reconnu la difficulté d'appliquer les réglementations numériques à l'échelle mondiale.

Moyakine et Klingenberg ont exhorté les organisations à adapter leurs processus commerciaux et leurs stratégies de gestion des correctifs pour garder une longueur d'avance sur les menaces basées sur l'IA. Le contrôle de l'accès et l'utilisation potentielle abusive d'outils d'IA puissants comme Mythos sont considérés comme des questions cruciales pour la cybersécurité future.