Le professeur Sabelfeld donne une conférence sur la sécurité numérique et l'IA

Andrei Sabelfeld, professeur de cybersécurité à l'Université de technologie de Chalmers, présentera la conférence William Chalmers de cette année le 12 novembre. La conférence, intitulée "Pouvons-nous garder une longueur d'avance sur les pirates ? Code sécurisé, IA sécurisée et un avenir plus sûr", abordera les défis de sécurité dans les systèmes numériques et l'intelligence artificielle.

Le groupe de recherche de Sabelfeld se concentre sur l'intégration de la sécurité dès la phase de conception initiale plutôt que de simplement réagir aux vulnérabilités. "Au lieu de chasser les vulnérabilités une par une, nous voulons construire des logiciels de manière à ce que des catégories entières d'attaques cessent de fonctionner", a expliqué Sabelfeld. Le groupe a travaillé sur la sécurité du Web, découvrant des campagnes d'extensions de navigateur malveillantes affectant des millions d'utilisateurs.

L'utilisation croissante des agents d'IA introduit de nouveaux risques de sécurité, car ces agents peuvent agir au nom des utilisateurs. La recherche vise à garantir que les agents d'IA aient un accès limité et que les données ne circulent que comme autorisé, afin d'atténuer les dommages potentiels si un agent est compromis.

La conférence explorera l'intégration du code sécurisé, de l'IA et des futurs systèmes numériques. Sabelfeld souligne l'importance de prioriser la sécurité pendant le processus de conception. "L'IA n'est aussi bonne que sa sécurité. Notre appel est d'intégrer la sécurité dès le départ plutôt que de la patcher après coup", a-t-il déclaré.

La conférence William Chalmers est un événement public annuel en l'honneur du fondateur de l'université. Elle est ouverte à tous et vise à diffuser les connaissances sur l'importance et l'orientation future de la recherche dans ce domaine.