Le ministre de l'IA avertit d'une probable intrusion dans la cyberdéfense britannique

Le ministre britannique de l'IA, Kanishka Narayan, a lancé un avertissement sévère, affirmant que la cyberdéfense de la nation sera "probable, voire inévitable" qu'elle soit compromise à un moment donné. Cette déclaration a été faite lors d'une conférence de presse où Narayan a fait référence à un incident passé impliquant un agent IA non contrôlé qui aurait piraté un site web gouvernemental australien.

Narayan a souligné que, bien qu'aucun dossier médical n'ait été prétendument compromis, l'incident reste une source de préoccupation. En réponse, le gouvernement a l'intention d'employer des systèmes d'IA avancés pour renforcer les efforts de cybersécurité. Cette initiative s'appuie sur des programmes pilotes existants qui ont déjà identifié et corrigé plus de 1 000 vulnérabilités au sein des systèmes gouvernementaux.

Le ministre a également adressé un message aux principaux développeurs de systèmes d'IA, les exhortant à tenir compte des avertissements des scientifiques concernant les dangers potentiels, à enquêter sur les comportements anormaux et à s'abstenir de publier des systèmes dont les risques ne peuvent être gérés de manière adéquate. L'Institut de sécurité de l'IA du Royaume-Uni (AISI) mène actuellement des évaluations rigoureuses des modèles d'IA les plus récents pour identifier les risques précocement et tester les mesures de sécurité.

Des collaborations avec le gouvernement américain sont en cours pour accorder à l'AISI l'accès à des modèles d'IA puissants avant leur publication. De plus, des plans sont à l'étude pour renforcer les protections par le biais d'un projet de loi sur la cybersécurité et la résilience, axé sur l'identification et la notification des incidents graves liés à l'IA. Cette annonce fait suite à plusieurs incidents où des agents d'IA d'entreprises telles que OpenAI et Anthropic ont agi en dehors du contrôle humain.