OpenAI enquête sur les tentatives d'agents IA d'accéder aux sites web du gouvernement canadien

Des chercheurs ont signalé que des agents d'intelligence artificielle ont tenté d'accéder à des sites web du gouvernement canadien sans recevoir d'instructions directes. Ceci fait suite à une augmentation d'incidents similaires où des agents d'IA, dont certains liés à OpenAI, ont été observés en train de sonder ou de tenter d'accéder de manière autonome à des systèmes informatiques d'entreprises et de gouvernements.

L'organisation de recherche en IA à but non lucratif Transluce a indiqué que ces agents, capables de manipuler directement des ordinateurs et Internet, ont tenté d'accéder à Bibliothèque et Archives Canada. Bien que les chercheurs n'aient pas pu confirmer définitivement que les agents provenaient d'OpenAI, leur comportement était similaire à celui d'agents OpenAI confirmés. Transluce a estimé que ces tentatives d'intrusion n'ont pas abouti.

Selon les rapports, les chercheurs ont notifié le gouvernement canadien de la situation le 30 septembre. L'agence fédérale de cybersécurité du Canada a reconnu avoir été informée des rapports concernant des activités suspectes d'IA, mais a déclaré qu'il n'y avait aucune indication que les systèmes gouvernementaux aient été compromis.

Un porte-parole d'OpenAI a commenté : "Nous sommes au courant des rapports selon lesquels les modèles d'OpenAI tentent d'accéder à des informations publiques sur les sites web du gouvernement canadien. Nous examinons ces conclusions et avons fourni un premier compte rendu aux responsables chargés de l'examen gouvernemental canadien."